Bị đuổi khỏi cửa hàng vì bị AI nhầm là trộm: Sự thật chấn động sau 1,7 triệu khuôn mặt bị quét và cuộc đua quản lý AI bất lực của nhân loại

Các cơ quan giám sát sinh trắc học của Anh vừa đưa ra lời cảnh báo đanh thép: Hệ thống giám sát quốc gia đối với công nghệ quét khuôn mặt bằng AI nhằm truy bắt tội phạm đang tụt hậu xa so với tốc độ phát triển chóng mặt của công nghệ này.

Trong bối cảnh cảnh sát London gần như tăng gấp đôi số lượng khuôn mặt bị quét trong 12 tháng qua, cùng với việc các nhà bán lẻ tại Anh ồ ạt đưa công nghệ này vào sử dụng, Giáo sư William Webster, Ủy viên Sinh trắc học của Anh và xứ Wales, nhận định: “Tốc độ lập pháp chậm chạp đang cố gắng đuổi theo thế giới thực” và tình cảnh hiện tại chẳng khác nào “xe đã đặt trước ngựa”.

Tiến sĩ Brian Plastow, người giữ chức vụ tương đương tại Scotland, cũng cảnh báo rằng công nghệ này “không hề hiệu quả như những gì cảnh sát tuyên bố”.

Ông mô tả khung pháp lý hiện tại ở Vương quốc Anh là một "mảnh vá chắp vá", và riêng tại Anh và xứ Wales, lực lượng cảnh sát đang rơi vào tình trạng “vừa đá bóng vừa thổi còi” (tự chấm điểm bài tập của chính mình).

Các nhà chức trách khẳng định cần có luật mới để quản lý thời điểm và cách thức cảnh sát sử dụng công nghệ nhận diện khuôn mặt trực tiếp, đồng thời thiết lập một cơ quan quản lý mới để ngăn chặn tình trạng lạm dụng.

Hiện nay, việc giám sát công nghệ này đang bị phân tán cho nhiều đơn vị như Văn phòng Ủy viên Thông tin (ICO) và Ủy ban Nhân quyền và Bình đẳng.

Trong khi đó, Bộ Nội vụ Anh đang cân nhắc một khung pháp lý mới, dự kiến giới thiệu trên toàn quốc thứ mà họ gọi là “bước đột phá lớn nhất trong việc truy bắt tội phạm kể từ khi tìm ra phương pháp đối soát DNA”.

"Có lỗi cho đến khi chứng minh được mình vô tội"

Nhiều người dân bị các cửa hàng dán nhãn nhầm là nghi phạm tội phạm thông qua camera AI cho biết họ không có cách nào để giải trình hay khiếu nại. Họ cảm thấy mình bị đối xử theo nguyên tắc “có lỗi cho đến khi chứng minh được mình vô tội”.

Những nạn nhân này mô tả ICO, cơ quan chịu trách nhiệm giám sát công nghệ nhận diện khuôn mặt và dữ liệu sinh trắc học, là một cơ quan vô dụng và thiếu phản hồi.

Dù cảnh sát và các nhà bán lẻ khẳng định công nghệ này giúp đường phố an toàn hơn, nhưng những người chỉ trích lại coi đây là kiểu giám sát hàng loạt kiểu "Big Brother", đe dọa nghiêm trọng đến quyền tự do dân sự và quyền riêng tư dữ liệu.

Tính từ đầu năm đến nay, cảnh sát London đã quét hơn 1,7 triệu khuôn mặt để săn tìm các nghi phạm trong danh sách theo dõi, tăng 87% so với cùng kỳ năm 2025.

Giáo sư Webster cho biết: “Phải mất ít nhất ba năm nữa quy định mới mới có thể đi vào thực thi. Trong khi đó, nhận diện khuôn mặt trực tiếp đã được triển khai tại hàng chục lực lượng cảnh sát khác nhau.

Công nghệ ngày càng rẻ hơn, và theo thời gian, chúng ta sẽ thấy nó xuất hiện khắp nơi, kể cả trong mạng lưới camera giám sát cố định”.

Những vụ bắt bớ và đuổi khách nhầm tai hại

Vào tháng 2, tờ The Guardian đã tiết lộ vụ việc cảnh sát bắt giữ một người đàn ông vì tội trộm cắp tại một thành phố mà anh ta chưa từng đặt chân tới.

Nguyên nhân là phần mềm quét mặt đã nhầm lẫn anh với một người gốc Nam Á khác.

Nhiều người khác cũng chia sẻ về việc bị các nhà bán lẻ nhận diện sai là kẻ trộm đồ. Sự lo ngại càng gia tăng khi ICO trì hoãn cuộc kiểm toán kế hoạch đối với cảnh sát London.

Dù cuộc điều tra được ấn định vào tháng 10 năm ngoái, nhưng phía cảnh sát đã xin lùi lại với lý do phải xử lý các thách thức pháp lý, lịch nghỉ Giáng sinh của sĩ quan và áp lực trực chiến dịp năm mới. Việc ICO chấp nhận yêu cầu này khiến dư luận chỉ trích cơ quan quản lý "thiếu quyết liệt".

Nghị sĩ David Davis, một nhà hoạt động vì quyền tự do dân sự, nhấn mạnh: “ICO đáng lẽ phải là người bảo vệ công dân bình thường và cần phải quyết liệt hơn nữa”.

Một cuộc thăm dò với 2.000 người trưởng thành vào tháng trước cho thấy gần 1/3 phản đối việc các nhà bán lẻ sử dụng nhận diện khuôn mặt. Ngoài ra, 62% lo ngại công nghệ này sẽ khiến họ gặp rắc rối vì những việc họ không làm.

Các chuỗi cửa hàng lớn như Sainsbury’s, Budgens và Sports Direct hiện đang sử dụng hệ thống Facewatch. Công nghệ này phân tích dữ liệu CCTV và so sánh khuôn mặt với cơ sở dữ liệu tư nhân về những người từng vi phạm, sau đó gửi cảnh báo cho nhân viên.

Nhóm chiến dịch Big Brother Watch cho biết họ đã tiếp nhận 21 trường hợp tin rằng mình bị đưa vào danh sách theo dõi hoặc bị nhận diện sai trong năm qua.

Ông Ian Clayton, một chuyên gia an toàn sức khỏe đã nghỉ hưu, bị yêu cầu rời khỏi cửa hàng Home Bargains sau khi hệ thống báo ông là kẻ trộm.

Sau đó, ông mới vỡ lẽ mình bị nhận diện nhầm chỉ vì... đứng cạnh một kẻ trộm thật trong lần đi mua sắm trước đó. "Cảm giác thật kinh khủng, giống như bị rình rập mà không có lý do," ông chia sẻ.

Anh Warren Rajah, một chiến lược gia dữ liệu tại Nam London, cũng gặp tình huống tương tự tại Sainsbury’s. Anh cảnh báo: “Chúng ta đang lững lờ bước vào một cuộc khủng hoảng quyền dân sự. Chúng ta đều biết camera không thể nhận diện chính xác những người có đặc điểm khuôn mặt sẫm màu”.

Góc khuất từ lời kể của người trong cuộc

Paul Fyfe, cựu nhân viên an ninh từng sử dụng camera Facewatch, tiết lộ một sự thật rùng mình: nhân viên đôi khi "gán thẻ" người dân vào danh sách đen chỉ vì ghét thái độ hoặc bị họ đe dọa, dù họ chẳng trộm cắp gì.

Hệ quả là khi những người này bước vào bất kỳ cửa hàng nào khác dùng chung phần mềm, chuông báo động an ninh sẽ ngay lập tức vang lên.

Đáp lại, CEO của Facewatch, ông Nick Fisher, khẳng định hệ thống được thiết kế để không thể lạm dụng và mọi báo cáo đều phải qua con người kiểm duyệt trước khi đưa vào cơ sở dữ liệu.

*Nguồn: The Guardian