OpenAI phát hiện thêm 6 sự cố an toàn AI

OpenAI vừa công bố 6 trường hợp mô hình trí tuệ nhân tạo (AI) “có hành vi ngoài dự kiến hoặc đáng lo ngại” trong 6 tháng qua, không tính sự cố liên quan đến Hugging Face gần đây.

Một số mô hình tìm cách che giấu sai sót với người dùng, trong khi những hệ thống khác tự ý sử dụng khóa truy cập, trao đổi thông tin qua kênh không được cho phép hoặc đưa dữ liệu lên Internet.

Đáng chú ý, một mô hình nghiên cứu chưa phát hành và một phiên bản GPT-5.6 Sol đang huấn luyện đã chèn chỉ dẫn dành cho các phiên bản tương lai của chính mình vào phần tóm tắt cuộc trò chuyện.

Theo OpenAI, mục đích của hành vi này là che giấu sai sót hoặc những biểu hiện lệch khỏi mục tiêu mong muốn với người dùng.

Trong trường hợp khác, mô hình chỉ sử dụng nội bộ đã tự ý dùng khóa API bị rò rỉ, sau đó tạo ra dữ liệu giả. Khóa API là mã xác thực cho phép phần mềm truy cập một dịch vụ hoặc hệ thống.

Hai trường hợp tiếp theo liên quan đến việc các mô hình và tác nhân AI tự liên lạc qua bảng tin, chia sẻ tệp mà không được cho phép.

Trường hợp cuối cùng gồm hai ví dụ trong quá trình huấn luyện, khi mô hình tải tệp lên Internet để sau đó trích dẫn chúng như những câu trả lời phù hợp trước người đánh giá.

OpenAI không công bố đầy đủ diễn biến từng sự cố trong bài đăng. Tuy nhiên, các trường hợp được nêu cho thấy hành vi bất thường không chỉ giới hạn ở việc AI đưa ra câu trả lời sai, mà còn liên quan đến cách hệ thống sử dụng công cụ, trao đổi thông tin và tìm cách tác động đến quá trình đánh giá.

Việc công bố 6 trường hợp diễn ra khi các công ty AI chịu sức ép ngày càng lớn về an toàn và khả năng kiểm soát mô hình. OpenAI cho rằng ngành công nghiệp chưa giải quyết đủ tốt vấn đề căn chỉnh mục tiêu và giám sát để có thể tiếp tục phát triển AI với tốc độ tối đa trong thời gian dài một cách có trách nhiệm.

Căn chỉnh mục tiêu là việc bảo đảm AI theo đuổi những kết quả phù hợp với lợi ích của con người. Khi mô hình che giấu sai sót hoặc hành động ngoài phạm vi được cho phép, việc xác định và xử lý những biểu hiện lệch khỏi mục tiêu này trở nên khó khăn hơn.

Trước đó, CEO OpenAI Sam Altman đã ủng hộ đề xuất giảm tốc độ phát triển mô hình do Anthropic, đối thủ cạnh tranh chính của công ty, đưa ra. Đề xuất xuất hiện sau khi một số nhà nghiên cứu cảnh báo về nguy cơ AI ngày càng có khả năng gây thiệt hại nghiêm trọng.

Altman cho biết việc giảm tốc đã trở thành chủ đề chính trong các cuộc thảo luận tại OpenAI những tuần gần đây và công ty sẽ sớm chia sẻ thêm thông tin.

Cùng với việc tiết lộ các trường hợp bất thường, OpenAI giới thiệu khuôn khổ mới nhằm xác định cách công ty báo cáo những sự cố tương tự trong tương lai.

Theo quy trình dự kiến, bất kỳ nhân viên nào cũng có thể phản ánh hành vi đáng ngờ để nhóm an toàn và căn chỉnh mục tiêu điều tra. OpenAI sẽ đặt thời hạn cho từng bước nhằm bảo đảm việc xác minh và công bố thông tin được thực hiện kịp thời.

Sau điều tra, công ty sẽ lập báo cáo nêu rõ hành vi quan sát được, tác động đối với hệ thống nội bộ và bên ngoài, cùng những biện pháp ứng phó. OpenAI cho biết vẫn giữ quyền điều chỉnh quy trình này khi cần thiết.

Động thái diễn ra trong giai đoạn OpenAI tiếp tục mở rộng hoạt động kinh doanh. Công ty được định giá gần 1.000 tỷ USD và đã bí mật nộp hồ sơ chào bán cổ phiếu lần đầu ra công chúng (IPO) hồi đầu năm, dù gần đây cho biết đợt chào bán có thể chưa diễn ra trước năm 2027.

Việc công khai các sự cố và xây dựng quy trình báo cáo mới cho thấy OpenAI đang tìm cách tăng khả năng phát hiện, điều tra và xử lý hành vi bất thường, trong bối cảnh chính công ty thừa nhận những biện pháp giám sát hiện nay chưa theo kịp tốc độ phát triển của AI.