Anthropic cho biết Claude đã bị lợi dụng cho các hoạt động liên quan đến vũ khí, gián điệp và tấn công mạng

Eduardo Baptista
Ngày 11 tháng 9 (Reuters) – Trong một báo cáo về tình báo mối đe dọa công bố hôm thứ Năm, Anthropic cho biết một số đối tượng đã sử dụng các mô hình AI Claude của hãng cho các hoạt động bao gồm phát triển vũ khí, tấn công mạng, cũng như giám sát và lừa đảo.
Dưới đây là một số trường hợp đáng chú ý nhất được nêu trong báo cáo theo cáo buộc của Anthropic.

Vũ khí thông thường

HỆ THỐNG PHÒNG KHÔNG TRUNG QUỐC – ĐÀI LOAN: Anthropic cho biết một nhóm đối tượng tại Trung Quốc đã sử dụng Claude để phát triển bộ phần mềm tác chiến điện tử và chế áp phòng không, có khả năng xếp hạng mục tiêu và mô phỏng gây nhiễu radar. Trong quá trình thực hiện dự án, nhóm này đã thay đổi mô phỏng để đưa vào 12 mục tiêu tại Đài Loan, bao gồm radar cảnh báo sớm, các khẩu đội tên lửa Patriot và Thiên Cung (Tien Kung), căn cứ không quân cùng một hầm chỉ huy. Anthropic cho biết thông tin tài khoản đã liên kết nhóm này với các viện nghiên cứu của Trung Quốc, bao gồm Viện Khoa học Quân sự thuộc Quân Giải phóng Nhân dân Trung Quốc. Anthropic đã khóa các tài khoản có liên quan đến nhóm này.

Bộ Ngoại giao Trung Quốc tuyên bố không biết về báo cáo của Anthropic và khẳng định chính phủ luôn chủ trương phát triển AI vì mục đích tốt đẹp, đồng thời phản đối việc bóp méo sự thật và bôi nhọ đất nước.

Trung Quốc coi Đài Loan – vùng lãnh thổ có chính quyền dân chủ – là một phần lãnh thổ của mình và chưa bao giờ từ bỏ ý định sử dụng vũ lực để kiểm soát hòn đảo này. Đài Loan bác bỏ các tuyên bố chủ quyền của Bắc Kinh.

HỆ THỐNG CHỐNG NGƯ LÔI CỦA TRUNG QUỐC: Anthropic cho biết một nhóm đối tượng khác tại Trung Quốc đã sử dụng Claude để hỗ trợ xây dựng thông số kỹ thuật và phần mềm điều khiển hỏa lực cho hệ thống chống ngư lôi dành cho hải quân Trung Quốc. Nhóm này đã dùng Claude để soạn thảo đề xuất kỹ thuật dài hơn 200 trang, so sánh hệ thống với công nghệ của Hải quân Mỹ và mô phỏng các quy trình đánh giá kỹ thuật của đối phương nhằm hoàn thiện đề xuất. “Chúng tôi đánh giá rằng nhóm này có liên hệ với một nhà sản xuất trong ngành công nghiệp quốc phòng Trung Quốc, với mục tiêu xây dựng thông số kỹ thuật vũ khí và đề xuất mua sắm cho Hải quân Quân Giải phóng Nhân dân Trung Quốc,” Anthropic cho biết.

NGHIÊN CỨU VỀ VŨ KHÍ VI SÓNG CỦA TRUNG QUỐC: Anthropic cho biết một nhóm đối tượng hoạt động trong lĩnh vực tình báo quốc phòng tại Trung Quốc đã sử dụng Claude để nghiên cứu các loại vũ khí vi sóng công suất cao của nước ngoài, xác định các linh kiện và nhà cung cấp cũng như truy xuất chuỗi cung ứng. Công ty này cho biết nhóm đối tượng đã tìm kiếm thông tin hỗ trợ việc sao chép ngược (reverse-engineering) vũ khí và phát triển các biện pháp đối phó, đồng thời soạn thảo các bản báo cáo mật dành cho các quan chức cấp cao của Đảng Cộng sản Trung Quốc, quân đội hoặc cơ quan an ninh quốc gia.

PHÁT TRIỂN TÊN LỬA TẠI YEMEN: Anthropic cho biết một nhóm đối tượng đe dọa ở miền bắc Yemen đã sử dụng Claude để hỗ trợ phát triển phần mềm cho tên lửa có điều khiển, một loại tên lửa đạn đạo dự kiến ​​có tầm bắn hơn 2.000 km và một biến thể tên lửa tích hợp phương tiện lướt siêu thanh. Các đối tượng này đã sử dụng Claude để viết mã, mô phỏng và khắc phục sự cố, bao gồm cả việc xử lý sau khi một vụ thử nghiệm tên lửa có điều khiển dường như thất bại. Anthropic cho biết họ không có bằng chứng cho thấy các đối tượng này đã triển khai thành công một loại vũ khí có thể hoạt động thực tế. “Các biện pháp bảo vệ của chúng tôi đã chặn được nhiều yêu cầu của họ, nhưng không phải tất cả,” Anthropic cho hay.

Thông tin này được đưa ra trong bối cảnh lực lượng Houthi (nhóm có quan hệ với Iran và kiểm soát phần lớn miền bắc Yemen) đang gia tăng các cuộc tấn công nhắm vào Ả Rập Xê Út và cơ sở hạ tầng năng lượng của nước này. Báo cáo của Anthropic không xác định liệu các tác nhân gây đe dọa có phải là thành viên của Houthi hay không.
ĐÀN MÁY BAY KHÔNG NGƯỜI LÁI (DRONE) CỦA NGA: Anthropic cho biết nhiều khả năng các cá nhân hoạt động độc lập tại Nga đã sử dụng Claude để phát triển phần mềm cho một đàn drone tấn công tự hành loại FPV (điều khiển qua góc nhìn người lái), bao gồm các tính năng dẫn đường giai đoạn cuối, chọn mục tiêu và phối hợp giữa nhiều máy bay.

Các loại drone tấn công FPV cỡ nhỏ đã trở thành vũ khí chủ chốt trong cuộc chiến tại Ukraine, nơi cả Nga và Ukraine đều triển khai chúng trên quy mô lớn để trinh sát và tấn công.
Đại sứ quán Nga tại Washington không phản hồi các câu hỏi về những cáo buộc cụ thể do Anthropic đưa ra hay về nội dung tổng thể của báo cáo.

NGA MUA SẮM LINH KIỆN LƯỠNG DỤNG: Anthropic cho biết một quản lý thu mua tại Nga đã sử dụng Claude để xác định các bên trung gian ở Trung Quốc và Hồng Kông nhằm mua các mặt hàng do châu Âu sản xuất có tiềm năng ứng dụng quân sự, đồng thời vạch ra các tuyến đường vận chuyển qua nước thứ ba để che giấu điểm đến cuối cùng của hàng hóa. Theo Anthropic, các mặt hàng được tìm mua bao gồm thiết bị đo từ trường (từ kế) do Đức sản xuất, tấm pin quang điện chuẩn dùng trong không gian và hệ thống cung cấp oxy trên máy bay. Nga ngày càng phụ thuộc vào các bên trung gian và các tuyến đường thương mại thay thế để tiếp cận công nghệ nước ngoài kể từ khi các nước phương Tây áp đặt các biện pháp trừng phạt và hạn chế xuất khẩu trên diện rộng sau khi nước này tiến hành chiến dịch quân sự tại Ukraine.

HỖ TRỢ THU THẬP TÌNH BÁO CHO NGA: Anthropic cho biết một nhóm tin tặc được cho là đã thực hiện các chiến dịch tấn công giả mạo (phishing), chiếm quyền kiểm soát Wi-Fi khách sạn và chiếm đoạt tài khoản WhatsApp nhắm vào các mục tiêu trong chính phủ, quân đội và ngành ngoại giao Ukraine, đồng thời sử dụng AI ở hầu hết các giai đoạn. Phương thức hoạt động của nhóm này tương đồng với Midnight Blizzard – một tác nhân đe dọa có trụ sở tại Nga mà chính phủ Hoa Kỳ trước đây từng liên kết với Cơ quan Tình báo Đối ngoại (SVR) của Nga.
TRINH SÁT HẢI QUÂN IRAN: Anthropic cho biết họ đã phát hiện và ngăn chặn một tác nhân có liên hệ với Iran sử dụng Claude để thu thập và phân tích dữ liệu công khai, nhằm đưa ra các đề xuất mục tiêu tấn công lực lượng hải quân Hoa Kỳ trong khu vực. Các tài liệu được tổng hợp bao gồm danh sách nhân sự Hoa Kỳ thu thập từ chú thích ảnh quân sự công khai, mã định danh thiết bị phát đáp (transponder) của tàu và máy bay có thể truy cập công khai, cùng các tập lệnh truy vấn hình ảnh vệ tinh thương mại.

Tác nhân này cũng chỉ đạo Claude tổng hợp các nghiên cứu về lỗ hổng phần mềm trên các hệ thống tàu biển, liên quan đến thiết bị liên lạc vệ tinh, các thiết bị liên lạc khác và các sản phẩm điều khiển công nghiệp.

GIÁM SÁT

TUYỂN DỤNG NGƯỜI DUY NGÔ NHĨ TẠI SYRIA: Anthropic cho biết một tác nhân có liên kết với Trung Quốc đã sử dụng Claude để theo dõi và tiếp cận người Duy Ngô Nhĩ tại Syria—bao gồm cả những người được đánh giá là dễ bị tổn thương về mặt tài chính hoặc cá nhân—nhằm đề nghị trả tiền để đổi lấy thông tin về các đơn vị người Duy Ngô Nhĩ đã gia nhập quân đội mới được thành lập của Syria. Bắc Kinh coi các nhóm vũ trang Duy Ngô Nhĩ ở nước ngoài là tổ chức khủng bố và từ lâu đã lấy lý do chống lại hoạt động quân sự hóa để biện minh cho các chính sách an ninh nhắm vào nhóm sắc tộc đa số theo đạo Hồi này. Anthropic đánh giá với độ tin cậy thấp rằng tác nhân này là một nhà thầu làm việc cho cơ quan an ninh nhà nước Trung Quốc.

GIÁM SÁT TÔN GIÁO VÀ CHÍNH TRỊ TẠI TRUNG QUỐC: Anthropic cho biết các tác nhân có liên kết với Trung Quốc đã sử dụng Claude để tổng hợp thông tin tình báo về các mục tiêu bao gồm hồng y Công giáo, các nhà lãnh đạo Cơ đốc giáo Đài Loan, Phật tử Tây Tạng, những người bất đồng chính kiến ​​và các nhà hoạt động.

Trong một chiến dịch riêng biệt, Claude đã được sử dụng để tự động hóa việc soạn thảo các báo cáo theo phong cách chính phủ nhằm giám sát người Duy Ngô Nhĩ, người Tây Tạng, các nhân vật chính trị Đài Loan, các nhà hoạt động công đoàn và sinh viên, cũng như truyền thông nước ngoài, theo thông tin từ Anthropic.

Trung Quốc kiểm soát chặt chẽ các tổ chức tôn giáo và hoạt động bất đồng chính kiến ​​về mặt chính trị; nước này cũng bị các chính phủ phương Tây và các tổ chức nhân quyền cáo buộc thực hiện các chiến dịch giám sát và gây áp lực đối với những người chỉ trích ở nước ngoài. Bắc Kinh đã bác bỏ các cáo buộc về hành vi đàn áp xuyên quốc gia. DỊCH VỤ GIÁM SÁT THƯƠNG MẠI: Anthropic cho biết họ đã khóa một tài khoản sử dụng Claude để xây dựng nền tảng giám sát thương mại nhằm phân tích, phân loại và lập hồ sơ về hoạt động trên mạng xã hội của người dùng tại Iran và khu vực Vịnh. ​​Anthropic khẳng định các phát hiện của họ củng cố kết quả một cuộc điều tra vào tháng 2 năm 2023 của mạng lưới báo chí Forbidden Stories; cuộc điều tra này đã ghi nhận một dịch vụ được chào bán bởi công ty có tên S2T Unlocking Cyberspace.
Anthropic cho biết họ đã phát hiện hoạt động này ngay từ giai đoạn thử nghiệm và không tìm thấy bằng chứng nào cho thấy các giai đoạn sau trong chuỗi giám sát của công ty đã được sử dụng để nhắm mục tiêu vào các đối tượng thực tế trước khi tài khoản bị khóa. S2T chưa phản hồi ngay lập tức yêu cầu bình luận.

LẬP HỒ SƠ VỀ CÁC TỔ CHỨC CỦA ISRAEL VÀ CỘNG ĐỒNG DO THÁI HẢI NGOẠI TỪ PHÍA IRAN: Anthropic cho biết họ đã xác định được một bên vận hành có liên hệ với Iran sử dụng Claude để xây dựng hệ thống tự động lập hồ sơ danh tính dựa trên thông tin tình báo nguồn mở (OSINT), nhắm vào các cá nhân thuộc chính phủ và các tổ chức phi chính phủ của Israel, cũng như các tổ chức của cộng đồng Do Thái hải ngoại. Theo Anthropic, trong một quy trình làm việc, bên vận hành đã chạy chương trình dựa trên danh sách mục tiêu có sẵn. Bên vận hành cũng tìm cách tạo ra các sản phẩm tình báo nguồn mở về người dân Israel và Hoa Kỳ.

GIÁM SÁT NỘI BỘ TẠI IRAN: Anthropic cho biết họ đã xác định và khóa 16 tài khoản Claude do hai đơn vị có liên hệ với nhau vận hành; các đơn vị này có quan hệ với các cơ quan an ninh nội bộ và bán quân sự chưa xác định danh tính của Iran. Một trong những tổ chức này—được Anthropic mô tả là một tổ chức gồm bảy bộ phận với văn phòng tại nhiều tỉnh thành của Iran—tuyên bố nắm giữ cơ sở dữ liệu hồ sơ danh tính của công dân Iran. Tổ chức còn lại sử dụng Claude để phát triển một tiện ích mở rộng trình duyệt độc hại nhằm thu thập hàng loạt danh tính người dùng từ các nền tảng mạng xã hội lớn.

Yêu cầu bình luận gửi tới đại diện chính phủ Iran tại Liên Hợp Quốc ở New York chưa nhận được phản hồi ngay lập tức.

GIÁM SÁT THÔNG TIN LIÊN LẠC TẠI MALI: Anthropic cho biết Claude đã được sử dụng làm công cụ kỹ thuật chính để xây dựng một nền tảng giám sát nội bộ cho cơ quan tình báo nhà nước Mali; nền tảng này có khả năng giám sát dữ liệu liên quan đến khoảng 25 triệu thẻ SIM thuộc ba nhà mạng di động của quốc gia này. Công ty cho biết hệ thống có tên Lakana 360 này dường như được phát triển chủ yếu bởi một chuyên gia tư vấn duy nhất làm việc cùng Cơ quan An ninh Quốc gia Mali. Yêu cầu bình luận gửi tới văn phòng Thủ tướng Mali chưa nhận được phản hồi ngay lập tức.