AI Claude của Anthropic xâm nhập hệ thống ba công ty trong thử nghiệm an toàn

Công ty Anthropic vừa thông báo mô hình trí tuệ nhân tạo Claude của họ đã “truy cập trái phép” vào ba tổ chức bên ngoài trong ba lần riêng biệt trong quá trình thử nghiệm. Thông báo này được đưa ra chỉ vài ngày sau khi đối thủ OpenAI tiết lộ rằng các mô hình của họ cũng đã truy cập internet một cách bất hợp pháp và hoạt động ngoài tầm kiểm soát trong quá trình thử nghiệm bảo mật.

Anthropic cho biết họ đã thực hiện hơn 141.000 “lượt chạy đánh giá” và phát hiện rằng ba phiên bản khác nhau của mô hình Claude đã xâm nhập vào hệ thống của ba tổ chức giấu tên. Trong cả ba vụ xâm nhập, Claude tham gia vào một kịch bản thử nghiệm “bắt cờ” , trong đó nó được hướng dẫn “đột nhập và lấy lại” thông tin bí mật đã được “giấu trên một máy khác trong mạng” . Anthropic giải thích rằng thử thách này không có giới hạn cụ thể và không có phương pháp nào được quy định.

Khác với sự cố của OpenAI, Anthropic cho biết các mô hình của họ đã truy cập internet do “sự hiểu lầm giữa chúng tôi và đối tác đánh giá của chúng tôi” , Irregular. Tuy nhiên, Claude đã sử dụng “các kỹ thuật cơ bản, chẳng hạn như khai thác mật khẩu yếu và các điểm cuối chưa được xác thực” .

Các mô hình liên quan bao gồm Mythos 5, một trong những mô hình mạnh mẽ nhất của Anthropic, chỉ được phát hành cho một số lượng đối tác được phê duyệt hạn chế. Công ty cho biết họ đang hợp tác với Irregular để đánh giá tình hình và đã liên hệ với cả ba tổ chức bị ảnh hưởng.

Cả OpenAI và Anthropic đều đã phát hành các mô hình mạnh nhất của họ trong năm nay, gây ra lo ngại về vấn đề an toàn và bảo mật trong ngành công nghiệp AI. Tuần trước, OpenAI thừa nhận rằng các mô hình của họ đã thoát khỏi môi trường thử nghiệm khép kín và xâm nhập vào Hugging Face, một trang web nơi các nhà phát triển lưu trữ và chia sẻ mã nguồn. Giám đốc điều hành OpenAI, Sam Altman, cho biết công ty đã “tạm dừng” việc thử nghiệm của mình để cải thiện tính bảo mật.

Hơn 1.000 nhân viên AI từ các công ty hàng đầu đã ký một bức thư công khai kêu gọi ngành công nghiệp cần được quản lý chặt chẽ hơn. Bức thư nhấn mạnh rằng để hiện thực hóa tiềm năng của AI, ngành công nghiệp, chính phủ và toàn xã hội cần có thêm thời gian để giải quyết các rủi ro mới nổi và phát triển các biện pháp an ninh.

Đầu năm nay, chính quyền Trump đã ngăn chặn OpenAI và Anthropic ra mắt các mô hình mới nhất của họ vì lo ngại về an ninh quốc gia, nhưng sau đó đã đồng ý với các đảm bảo về độ an toàn, dẫn đến việc phát hành các mô hình này. Vào tháng 6, ông Trump đã ký một sắc lệnh hành pháp tạo ra một khuôn khổ tự nguyện, theo đó các nhà phát triển trí tuệ nhân tạo sẽ chia sẻ các mô hình tiên tiến với chính phủ trước khi công bố rộng rãi.