OpenAI nỗ lực ngăn chặn lừa đảo bằng AI

Ông Ilya Sutskever, người đồng sáng lập OpenAI và trưởng bộ phận giám sát của OpenAI, ông Jan Leike nhận định: “Sức mạnh của siêu trí tuệ có thể dẫn đến sự suy giảm quyền lực, hoặc thậm chí là sự tuyệt chủng của loài người”, đồng thời dự đoán AI siêu thông minh - hệ thống có khả năng thông minh hơn con người - có thể xuất hiện trong thập kỷ này.

Hai nhà lãnh đạo tập đoàn cho biết hiện tại chưa có giải pháp để điều khiển hay kiểm soát AI siêu thông minh, do đó cần có những bước đột phá trong "nghiên cứu liên kết", tập trung vào việc đảm bảo AI vẫn mang lại lợi ích cho con người.

Trong 4 năm tới, OpenAI sẽ dành 20% sức mạnh tính toán được đảm bảo để giải quyết vấn đề này. Ngoài ra, công ty đang thành lập một nhóm mới mang tên Superalignment, hoạt động với mục tiêu tạo ra một nghiên cứu căn chỉnh AI theo cấp độ con người, sau đó sẽ mở rộng thông qua một lượng lớn sức mạnh tính toán. Điều này đồng nghĩa với việc các hệ thống AI sẽ được đào tạo thông qua các phản hồi của con người, từ đó sẽ hỗ trợ đánh giá và thực hiện các nghiên cứu căn chỉnh thay cho mỗi cá nhân.

Ông Connor Leahy - người sáng lập công ty xây dựng công nghệ AI Conjecture - đánh giá kế hoạch này còn nhiều thiếu sót, do AI ở cấp độ con người có thể bị mất kiểm soát nếu như không giải quyết được các vấn đề về liên kết.

Những nguy hiểm tiềm tàng của AI vẫn luôn là mối quan tâm hàng đầu của các nhà nghiên cứu công nghệ và cả công chúng. Vào tháng 4, một nhóm các nhà điều hành các công ty công nghệ hàng đầu đã đặt bút ký vào một bức thư ngỏ nhằm kêu gọi đặt ra những quy định về quản lý AI và nâng cao nhận thức về "nguy cơ tuyệt chủng" từ công nghệ này. Ngoài ra, một cuộc khảo sát hồi tháng 5 của Reuters/Ipsos cho thấy hơn 2/3 người Mỹ lo ngại về những tác động tiêu cực của AI, trong đó 61% những người được hỏi tin rằng AI có thể đe dọa nền văn minh nhân loại.