Google dùng AI để giúp đỡ những người gặp khủng hoảng bằng công cụ tìm kiếm

Hàng ngày, Google nhận được số lượng lớn các tìm kiếm về những chủ đề chủ đề như tự tử, tấn công tình dục và bạo lực gia đình. Điều này cho thấy, nhiều người đã lựa chọn tìm đến Google mỗi khi gặp khủng hoảng cá nhân.

Tuy nhiên, Google đã thông báo sẽ triển khai các cải tiến cho mô hình AI (trí tuệ nhân tạo) để làm cho Google Tìm kiếm an toàn hơn  với việc xử lý tốt hơn các truy vấn nhạy cảm, bao gồm cả những vấn đề xoay quanh các chủ đề như tự tử, tấn công tình dục, lạm dụng chất kích thích và bạo lực gia đình.

Đồng thời, Google cũng sử dụng các công nghệ AI khác để cải thiện khả năng xóa nội dung khiêu dâm hoặc tục tĩu không mong muốn khỏi kết quả Tìm kiếm, trong trường hợp người dùng không có chủ ý tìm kiếm cụ thể.

Hiện nay, khi mọi người tìm kiếm thông tin nhạy cảm như tự tử, lạm dụng hoặc các từ khóa tiêu cực liên quan, Google sẽ hiển thị thông tin liên hệ của các đường dây nóng quốc gia có liên quan đến kết quả tìm kiếm.

Google đang tích hợp mô hình học máy mới nhất, MUM (Mô hình hợp nhất đa nhiệm) vào công cụ tìm kiếm của mình để phát hiện chính xác hơn nhiều loại tìm kiếm khủng hoảng cá nhân.

Google cho biết có thể phát hiện tự động và chính xác hơn nhiều loại tìm kiếm về khủng hoảng cá nhân vì MUM có thể hiểu rõ hơn ý định đằng sau các câu hỏi và truy vấn của mọi người.

Chẳng hạn đối với cụm từ tìm kiếm: “Tại sao anh ấy lại tấn công tôi khi tôi nói rằng tôi không yêu anh ấy”. Rõ ràng, con người có thể hiểu đây là bạo lực gia đình, nhưng các truy vấn dài, bằng ngôn ngữ tự nhiên như thế này rất khó để hệ thống hiểu nếu không có AI tiên tiến, theo Anne Merritt, quản lý sản phẩm của Google.

Trong trường hợp khác, nếu Google nhận được các từ khóa liên quan đến việc tự sát, Google sẽ phản hồi bằng một hộp thông tin trợ giúp, kèm theo số điện thoại hoặc trang web của tổ chức từ thiện sức khỏe tâm thần.

Tuy nhiên, việc tích hợp công nghệ này cũng đi kèm với những mặt trái của nó. Nhiều chuyên gia AI cảnh báo rằng việc nếu Google lạm dụng mô hình ngôn ngữ học máy có thể gây ra các vấn đề mới cho công ty, chẳng hạn như đưa các thành kiến ​​và thông tin sai lệch vào kết quả tìm kiếm.