Meta xác định các mạng lưới đẩy nội dung lừa đảo có thể do AI tạo ra

Công ty truyền thông xã hội Meta trong một báo cáo bảo mật hàng quý đã cho biết các tài khoản được coi là sinh viên Do Thái, người Mỹ gốc Phi và những công dân có liên quan khác, nhắm mục tiêu vào khán giả ở Mỹ và Canada. Meta cho rằng chiến dịch này là do công ty tiếp thị chính trị STOIC có trụ sở tại Tel Aviv thực hiện.

STOIC đã không trả lời ngay lập tức yêu cầu bình luận về các cáo buộc nói trên.

Mặc dù Meta đã tìm thấy những bức ảnh hồ sơ cơ bản do trí tuệ nhân tạo (AI) tạo ra trong các hoạt động gây ảnh hưởng kể từ năm 2019, nhưng báo cáo này là báo cáo đầu tiên tiết lộ việc sử dụng công nghệ AI tạo ra dựa trên văn bản kể từ khi nó xuất hiện vào cuối năm 2022.

Các nhà nghiên cứu lo ngại rằng AI tạo sinh có thể tạo ra văn bản, hình ảnh và âm thanh giống con người một cách nhanh chóng và rẻ tiền, có thể dẫn đến các chiến dịch đưa thông tin sai lệch hiệu quả hơn và gây ảnh hưởng đến các cuộc bầu cử.

Trong một cuộc họp với báo chí, các giám đốc điều hành an ninh của Meta cho biết họ đã sớm loại bỏ chiến dịch của Israel và không nghĩ rằng các công nghệ AI mới đã cản trở khả năng của họ trong việc phá vỡ các mạng lưới gây ảnh hưởng, vốn là những nỗ lực phối hợp để truyền tải thông điệp.