Một tính năng Google chưa muốn kích hoạt vì sai lầm trong quá khứ

Khi Google Photos được phát hành vào tháng 5/2015, ai nấy đều rất ngạc nhiên trước những gì ứng dụng này có thể làm: phân tích hình ảnh để gắn nhãn người, địa điểm và đồ vật.

Thế nhưng, chỉ vài tháng sau, nhà phát triển phần mềm Jacky Alciné phát hiện ra Google gắn nhãn các bức ảnh của mình với “khỉ đột” chỉ vì anh là người da màu. Trước làn sóng chỉ trích gay gắt, Google đứng ra xin lỗi và cam kết cải thiện độ nhạy của thuật toán phân loại.

“Đó là sai sót không ai muốn xảy ra. Công ty đang tiến hành sửa lỗi thuật toán để nhận diện tốt hơn hình ảnh một con người”, Yonatan Zunger, một đại diện của Google nói.

Tám năm sau, với những tiến bộ đáng kể trong lĩnh vực trí tuệ nhân tạo, liệu Google đã giải quyết ổn thỏa được vấn đề của mình? Phóng viên The New York Times đã so sánh Google Photos với các ứng dụng đối thủ để tìm kiếm câu trả lời thông qua 44 hình ảnh, bao gồm cả người, động vật và đồ vật.

Google Photos nhanh chóng tìm ra những hình ảnh phù hợp với truy vấn. Ứng dụng cũng nhận dạng rất tốt hầu hết các loài động vật, ngoại trừ khỉ đột. Phóng viên tờ The New York Times bắt đầu tìm sang khỉ đầu chó, tinh tinh, đười ươi và khỉ song vẫn thất bại dù hình ảnh của chúng đều có trong bộ sưu tập.

Apple Photos cũng có thể tìm thấy chính xác hình ảnh các loài động vật, ngoại trừ dòng linh trưởng. Giống loài cùng dòng duy nhất mà Google và Apple có thể nhận ra là vượn cáo, loài động vật đuôi dài có họ hàng xa là vượn.

Như vậy, Google, công ty có phần mềm Android làm nền tảng cho hầu hết các dòng điện thoại thông minh trên thế giới, đã quyết định tắt khả năng tìm kiếm động vật linh trưởng bằng hình ảnh vì sợ lặp lại sai lầm trong quá khứ. Apple dường như cũng vô hiệu hóa khả năng tìm kiếm khỉ và vượn.

Người dùng có thể không cần đến công cụ tìm kiếm khỉ, dù vào năm 2019, đã có trường hợp dùng iPhone phàn nàn rằng phần mềm “không thể thấy động vật linh trưởng” trong thiết bị. Vấn đề đã đặt ra câu hỏi lớn hơn xoay quanh lỗ hổng hình ảnh cũng như công nghệ diễn giải hình ảnh trực quan.

“Tôi sẽ mãi mãi không có niềm tin vào AI này”, Jacky Alciné nói, đồng thời cho biết Google vẫn chưa giải quyết triệt để vấn đề trên.

Trước đó, trả lời về sự cố khỉ đột, hai cựu nhân viên của Google cho biết công ty đã không đưa đủ hình ảnh người da màu vào bộ sưu tập. Kết quả, công nghệ không đủ quen thuộc với những người có làn da sẫm màu và nhầm họ với khỉ.

Khi trí tuệ nhân tạo ngày càng trở nên phổ biến, nó đã dấy lên nỗi sợ hãi về những hậu quả khôn lường. Trường hợp Google Photos và chatbot AI như ChatGPT là khác nhau, nhưng cả 2 đều phụ thuộc vào các luồng dữ liệu cơ bản và có thể sai sót bất cứ lúc nào.

Microsoft gần đây đã hạn chế khả năng tương tác của người dùng với một chatbot được tích hợp trong công cụ tìm kiếm Bing sau khi nó kích động các cuộc trò chuyện không phù hợp. Quyết định của Microsoft, giống như Google trước đây, đã cho thấy một cách tiếp cận phổ biến trong ngành: ngăn công nghệ làm sai thay vì sửa chúng.

“Việc giải quyết những vấn đề này rất quan trọng. Làm sao chúng ta có thể tin tưởng phần mềm này?”, Vicente Ordóñez, giáo sư tại Đại học Rice, cho biết.

Khi phát triển ứng dụng hình ảnh cách đây 8 năm, Google đã thu thập một lượng lớn hình ảnh để đào tạo hệ thống AI nhận dạng người, động vật và đồ vật. Việc thiếu sót dữ liệu người da màu đã khiến ứng dụng gặp trục trặc. Phía Google cũng không yêu cầu nhân viên kiểm tra kỹ lại tính năng trước khi ra mắt công chúng.

Các sản phẩm khác bị chỉ trích bao gồm webcam theo dõi khuôn mặt của HP (không thể phát hiện một số người có làn da sẫm màu) và Apple Watch (không thể đọc chính xác nồng độ oxy trong máu qua màu da). Điều này phần nào cho thấy các sản phẩm công nghệ không được thiết kế phục vụ riêng những người da màu.

Nhiều năm sau câu chuyện khỉ đột, Google tiếp tục gặp sự cố tương tự với camera an ninh gia đình Nest trong quá trình thử nghiệm nội bộ. Máy ảnh Nest, sử dụng AI để xác thực độ tin cậy, đã nhầm một số người da màu với động vật. Ngay cả khi Google cố gắng khắc phục lỗi trên, khách hàng Nest vẫn phàn nàn về loạt sai sót khác.

Ông Marconi, phát ngôn viên của Google, cho biết “mục tiêu của chúng tôi là ngăn chặn những sai lầm kiểu này không tái diễn”. Công ty đã cải thiện công nghệ “bằng cách hợp tác với các chuyên gia và đa dạng hóa bộ dữ liệu hình ảnh”.

Vào năm 2019, Google cố gắng cải thiện tính năng nhận dạng khuôn mặt cho điện thoại thông minh Android bằng cách tăng số lượng người da màu trong bộ dữ liệu, song chủ yếu là dân vô gia cư và sinh viên. Điều này khiến các giám đốc điều hành Google vô cùng lo ngại.

Margaret Mitchell, chuyên gia nghiên cứu kiêm đồng sáng lập nhóm Đạo đức AI, đã gia nhập Google sau sự cố khỉ đột. Bà đề xuất công ty loại bỏ nhãn khỉ đột, ít nhất là trong một thời gian.

Theo Tiến sĩ Ordóñez, Google và Apple giờ đây đã có thể phân biệt được loài linh trưởng với con người, song không muốn kích hoạt tính năng này do lo ngại sai sót xảy ra một lần nữa. Google sau đó phát hành một sản phẩm phân tích hình ảnh mạnh mẽ tên Google Lens, song theo Wired, công cụ này cũng không thể xác định khỉ đột.

Ngoài sự cố trên, Google từng gặp phải sự vụ tương tự với kênh YouTube Kids dành cho trẻ em. Công ty sử dụng bộ lọc tự động để loại bỏ các video không phù hợp với trẻ nhỏ, song hệ thống vẫn để lọt một số video có nội dung “người lớn”. Khi ấy, phát ngôn viên Google cho rằng “gần như không thể có độ chính xác 100%”.

Theo: The New York Times, The Verge