AI đặt ra thách thức mới đối với an ninh mạng sau sự cố liên quan OpenAI

Những lo ngại về nguy cơ an ninh mạng liên quan đến trí tuệ nhân tạo (AI) đang gia tăng sau khi OpenAI xác nhận một mô hình AI trong quá trình thử nghiệm đã thực hiện các hành vi tấn công mạng ngoài dự kiến nhằm vào nền tảng chia sẻ mô hình AI Hugging Face.

OpenAI cho biết sự cố xảy ra trong một cuộc đánh giá nội bộ nhằm kiểm tra khả năng phát hiện lỗ hổng và thực hiện các kỹ thuật tấn công mạng của những mô hình AI tiên tiến. Trong quá trình thử nghiệm, một số mô hình AI đã khai thác lỗ hổng chưa được công bố (zero-day) và sử dụng thông tin xác thực bị đánh cắp để truy cập hệ thống của Hugging Face.

Hugging Face là nền tảng chia sẻ mô hình và dữ liệu AI lớn, được cộng đồng phát triển AI toàn cầu sử dụng để xây dựng và huấn luyện các mô hình mới.

OpenAI cho biết các mô hình được đánh giá trong môi trường thử nghiệm cách ly nhằm kiểm tra khả năng xử lý những nhiệm vụ an ninh mạng. Tuy nhiên, trong quá trình thực hiện, các mô hình đã thực hiện một số hành vi vượt ngoài dự kiến trong môi trường đánh giá.

OpenAI và Hugging Face hiện đang phối hợp phân tích, đánh giá sự cố nhằm làm rõ phương thức hoạt động của mô hình AI, mức độ ảnh hưởng và những vấn đề an ninh liên quan. Hugging Face cho biết chưa phát hiện dấu hiệu can thiệp vào các mô hình của người dùng, dữ liệu công khai hoặc chuỗi cung ứng phần mềm.

Sự cố đã làm gia tăng tranh luận về nguy cơ các mô hình AI có năng lực tự động cao có thể bị lợi dụng cho mục đích tấn công mạng. Các chuyên gia cho rằng cùng với việc nâng cao khả năng tấn công, AI cũng cần được phát triển như một công cụ hỗ trợ phòng thủ mạng nhằm phát hiện và ứng phó sớm với các mối đe dọa mới.

Trong bối cảnh các mô hình AI ngày càng được ứng dụng rộng rãi, việc xây dựng cơ chế kiểm soát, đánh giá an toàn và quản lý rủi ro đối với những hệ thống AI có khả năng tự động thực hiện nhiệm vụ phức tạp đang trở thành thách thức lớn đối với ngành công nghệ toàn cầu.