Reddit trao thêm quyền cho AI: Có thể tự động xóa bài viết và bình luận vi phạm nội quy

Reddit vừa giới thiệu Rules Hub, hệ thống kiểm duyệt mới sử dụng mô hình ngôn ngữ lớn (LLM) nhằm hỗ trợ các quản trị viên (moderator) quản lý nội dung trên nền tảng. Điểm đáng chú ý là AI không chỉ gắn cờ nội dung mà còn có thể tự động xóa bài viết hoặc bình luận nếu được moderator cho phép.

Trước đây, Reddit chủ yếu dựa vào đội ngũ moderator tình nguyện cùng công cụ Automoderator (Automod). Hệ thống này hoạt động dựa trên các quy tắc do moderator thiết lập, tự động kích hoạt khi phát hiện từ khóa hoặc mẫu nội dung nhất định.

Trong thời gian qua, Reddit đã từng bước đưa AI vào quy trình kiểm duyệt. Một ví dụ là tính năng Post Check, sử dụng mô hình ngôn ngữ lớn để cảnh báo người dùng khi nội dung nháp có nguy cơ vi phạm quy định của cộng đồng, nhưng vẫn cho phép họ đăng bài nếu muốn.

Với Rules Hub, AI được giao thêm quyền hạn. Theo thông tin được The Verge đăng tải đầu tiên, hệ thống mới có khả năng đánh giá liệu một bài viết hoặc bình luận có "phù hợp với tinh thần của một quy định" hay không, thay vì chỉ tìm kiếm các từ khóa cố định như Automod.

Reddit cho biết cách tiếp cận này giúp AI hiểu tốt hơn ngôn ngữ tự nhiên, ngữ cảnh cũng như những trường hợp đặc biệt không chứa chính xác các từ khóa đã được thiết lập trong quy tắc.

Dù vậy, moderator vẫn là người quyết định AI sẽ thực thi những quy định nào và hành động ra sao khi phát hiện nội dung có dấu hiệu vi phạm. Các lựa chọn hiện bao gồm báo cáo để con người xem xét, tự động xóa nội dung hoặc không thực hiện bất kỳ hành động nào.

Theo Reddit, Rules Hub đã được thử nghiệm trong vài tháng qua trên hơn 700 cộng đồng, với sự tham gia của cả các moderator mới lẫn nhiều moderator giàu kinh nghiệm, bao gồm các thành viên thuộc Mod Council Network.

Hiện công cụ này được triển khai mặc định cho tất cả subreddit mới được tạo. Reddit cho biết sẽ mở rộng Rules Hub tới toàn bộ nền tảng trong năm 2026, nhưng chưa công bố thời điểm cụ thể.

Những phản hồi ban đầu từ moderator vẫn còn khá trái chiều. Một người tham gia thử nghiệm nhận xét hiệu quả của hệ thống "lúc được lúc không", trong khi một moderator khác cho biết nhóm của họ chưa đủ tin tưởng để AI tự động xử lý nội dung mà chỉ sử dụng nó như công cụ gắn cờ phục vụ việc kiểm tra thủ công.

Về lâu dài, Reddit cho biết Rules Hub có thể thay thế nhiều tác vụ mà Automod đang đảm nhiệm khi kết hợp cùng các công cụ Post and Comment Guidance và Safety Filters. Tuy nhiên, công ty nhấn mạnh AI không thay thế moderator. Con người vẫn sẽ chịu trách nhiệm xây dựng quy định của cộng đồng, cấu hình hệ thống và xem xét các quyết định do AI đưa ra.

Động thái này được đưa ra chỉ vài tháng sau khi Reddit vấp phải phản ứng từ cộng đồng moderator vì thay đổi chính sách, hạn chế khả năng để các bot tự động cấm người dùng chỉ dựa trên hoạt động của họ ở những subreddit khác.