Lần đầu tiên phát hiện AI tự ý tấn công hệ thống của chính phủ

“Tác nhân AI đã truy cập cả các tệp công khai và không công khai trong cơ sở dữ liệu thống kê Medicare của Úc, thậm chí còn ghi các tệp vào hệ thống này", ông Albanese nói với các phóng viên bên lề Đại hội đồng Liên Hợp Quốc tại New York ngày 23/9.

Nhà lãnh đạo Úc đã trao đổi với CEO Sam Altman của OpenAI về sự việc.

“Một cuộc điều tra với sự hỗ trợ của Cục Tín hiệu Úc đang được tiến hành nhằm tìm hiểu thêm thông tin, để xác định xem những hệ thống chính phủ nào khác đã bị ảnh hưởng”, ông nói.

Tiết lộ này là ví dụ mới nhất cho thấy các tác nhân AI hoạt động ngoài tầm kiểm soát và thực hiện những hành động vượt quá ý định của người vận hành chúng. Nhiều nhân vật hàng đầu trong ngành AI, trong đó có ông Altman, kêu gọi làm chậm tốc độ phát triển AI.

Ông Albanese cho biết Canberra chưa từng phát hiện trường hợp nào hệ thống chính phủ bị xâm nhập theo cách này.

Vụ việc xảy ra khi một tác nhân AI của OpenAI đang nghiên cứu về chi tiêu y tế đã vượt qua các cơ chế chặn để tìm kiếm câu trả lời trong những vùng mà nó không được cấp quyền truy cập.

Người phát ngôn OpenAI Drew Pusateri cho biết sự việc xảy ra vào tháng 6, nhưng đến tháng 8 công ty mới phát hiện ra, trong quá trình tiến hành kiểm tra quy mô lớn về hoạt động của các mô hình AI.

“Trong quá trình rà soát này, chúng tôi phát hiện hoạt động liên quan đến một số trang web và dịch vụ của chính phủ Úc, khi các mô hình của chúng tôi cố gắng tìm kiếm câu trả lời và các số liệu thống kê có sẵn cho những câu hỏi về Úc trong một cuộc đánh giá nội bộ. Trong quá trình đó, các mô hình của chúng tôi đã thực hiện những hành động mà chúng tôi không yêu cầu”, ông Pusateri nói.

Thủ tướng Albanese cho biết 3 hệ thống chính phủ khác có thể cũng bị ảnh hưởng, gồm Viện Y tế và Phúc lợi, Cục Thống kê và nghiên cứu tội phạm bang New South Wales, và Cơ quan Y tế bang Victoria.

OpenAI không tìm thấy bằng chứng cho thấy hồ sơ bệnh nhân bị truy cập trong vụ việc liên quan đến Medicare, đồng thời cho biết thông tin bị truy cập bao gồm “các số liệu thống kê y tế tổng hợp và tên các tệp nội bộ”.

Ông Albanese cho biết ông đã bày tỏ “mối quan ngại cực kỳ nghiêm trọng” của Úc khi trao đổi với ông Altman.

“Tôi cũng bày tỏ thất vọng khi công ty đã mất quá nhiều thời gian để thông báo cho chính phủ về những gì đã xảy ra. Cách thức thông báo cũng không thể chấp nhận được. Tôi nghĩ OpenAI hiểu rằng họ cần phải có những quy trình tốt hơn”, ông Albanese nói với các phóng viên.

Ông Altman và CEO Dario Amodei của Anthropic đều có bài phát biểu tại Đại hội đồng Liên Hợp Quốc ngày 23/9, kêu gọi tăng cường phối hợp toàn cầu và xây dựng các tiêu chuẩn quốc tế về phát triển AI.

Ông Altman kêu gọi các nhà lãnh đạo thế giới xây dựng các tiêu chuẩn quốc tế nhằm “đo lường năng lực, đánh giá rủi ro, xác định liệu các biện pháp bảo vệ có đủ hay không và duy trì sự giám sát có ý nghĩa của con người” với công nghệ đang phát triển nhanh chóng này.

Hồi tháng 7, OpenAI tiết lộ rằng trong quá trình kiểm thử an ninh mạng, các mô hình của công ty đã tạo ra một mạng lưới các tác nhân AI và sử dụng chúng để xâm nhập hệ thống của công ty AI Hugging Face.

Nhiều người trong ngành khi đó coi vụ tấn công này là một ví dụ cho thấy những nguy cơ đi kèm với tốc độ phát triển nhanh chóng của AI, cũng như sự gia tăng năng lực của các hệ thống AI.