Bỏ tiền tỷ thuê luật sư tinh hoa, nhận về hồ sơ... do AI tự "bịa": Cú sốc chấn động ngành luật Mỹ

Một trong những hãng luật danh giá nhất thế giới vừa phải công khai thừa nhận sai sót nghiêm trọng do trí tuệ nhân tạo gây ra, làm dấy lên lo ngại về rủi ro khi áp dụng AI trong các lĩnh vực đòi hỏi độ chính xác tuyệt đối như pháp lý.

Công ty luật Sullivan & Cromwell (S&C), nơi các đối tác có thể tính phí hơn 2.000 USD mỗi giờ, đã gửi thư xin lỗi tới thẩm phán liên bang Martin Glenn tại New York. Điều này xảy ra sau khi hãng luật này phát hiện một hồ sơ quan trọng chứa nhiều thông tin sai lệch do AI tạo ra.

Andrew Dietderich, người đứng đầu bộ phận tái cấu trúc của công ty, thừa nhận tài liệu nộp ngày 9/4 đã mắc lỗi nghiêm trọng. Bộ hồ sơ sai phạm bao gồm trích dẫn sai luật phá sản Mỹ và viện dẫn các vụ án không chính xác. Ông nhấn mạnh: “Chúng tôi vô cùng lấy làm tiếc về sự việc này”.

Theo giải trình, các chính sách nội bộ liên quan đến việc sử dụng AI đã không được tuân thủ trong quá trình soạn thảo tài liệu. Công ty hiện đang xem xét lại toàn bộ quy trình đào tạo và kiểm soát nhằm tránh tái diễn sự cố tương tự.

Dù không tiết lộ danh tính luật sư chịu trách nhiệm, vụ việc đã phơi bày một thực tế đáng lo ngại trong ngành Luật. Ngay cả những tổ chức pháp lý hàng đầu cũng có thể trở thành nạn nhân của “ảo giác AI” do trí tuệ nhân tạo tự tạo ra thông tin sai nhưng lại trình bày như thật.

Vụ việc xảy ra trong bối cảnh S&C đại diện cho các thanh lý viên tại Quần đảo Virgin thuộc Anh trong một vụ kiện liên quan đến Prince Group và doanh nhân Chen Zhi. Đây là một hồ sơ có quy mô lớn và tính chất phức tạp, liên quan đến các cáo buộc gian lận và rửa tiền với số tiền lên tới hàng tỷ USD.

Các công tố viên Mỹ trước đó đã cáo buộc Chen Zhi điều hành các hoạt động lừa đảo quy mô lớn tại Campuchia, thu lợi bất chính hàng tỷ USD từ nạn nhân trên toàn cầu. Song song đó, chính phủ Mỹ cũng tìm cách tịch thu gần 9 tỷ USD Bitcoin được cho là có liên quan đến hoạt động này.

Trong bối cảnh nhạy cảm như vậy, việc xuất hiện các sai sót pháp lý cơ bản trong hồ sơ đã gây ảnh hưởng không nhỏ đến uy tín của S&C.

AI trong ngành luật: Tăng tốc hay rủi ro hệ thống?

Sự cố của Sullivan & Cromwell không phải là trường hợp cá biệt, mà là một phần trong xu hướng rộng lớn hơn. Các công ty luật đang ngày càng phụ thuộc vào AI để tăng tốc nghiên cứu và giảm chi phí nhân sự.

Theo nhiều nguồn tin, S&C đã triển khai giấy phép doanh nghiệp cho ChatGPT nhằm hỗ trợ công việc pháp lý. Tuy nhiên, chính công ty này cũng thừa nhận rằng việc không kiểm chứng kết quả do AI tạo ra là vi phạm nghiêm trọng quy định nội bộ.

Trong hồ sơ bị lỗi, nhiều trích dẫn pháp lý đã bị bóp méo hoặc thậm chí không tồn tại. Các luật sư phía đối lập từ hãng Boies Schiller Flexner đã phát hiện ra sai sót và chỉ ra rằng một số đoạn trích “không xuất hiện trong luật phá sản Mỹ” hoặc dẫn chiếu đến các vụ án không có thật.

Thẩm phán cũng nhận định rằng một số vụ việc được viện dẫn “không phải là một vụ việc” và thực chất là quyết định từ khu vực pháp lý khác.

Đây là minh chứng rõ ràng cho rủi ro khi sử dụng AI trong lĩnh vực yêu cầu độ chính xác tuyệt đối. Dù AI có thể giúp tiết kiệm thời gian, nhưng nếu thiếu kiểm chứng, hậu quả có thể rất nghiêm trọng.

Trên thực tế, ngành luật không phải lần đầu đối mặt với vấn đề này. Năm ngoái, hãng luật Latham & Watkins cũng thừa nhận một luật sư đã sử dụng mô hình AI Claude để soạn thảo tài liệu chứa thông tin sai về tác giả và tiêu đề một bài báo khoa học.

Trong một vụ việc khác, tòa phúc thẩm liên bang tại New Orleans đã phạt 2.500 USD một luật sư vì nộp tài liệu có tới 21 lỗi hoặc thông tin bịa đặt do AI tạo ra.

Thậm chí, một đối tác tại Boies Schiller Flexner cũng từng công khai xin lỗi vì không kiểm chứng tài liệu do AI hỗ trợ, thừa nhận các “lỗi trích dẫn nghiêm trọng” và bày tỏ sự “xấu hổ sâu sắc”.

Những sự cố liên tiếp này cho thấy một nghịch lý. Công nghệ được kỳ vọng nâng cao hiệu suất lại có thể làm suy giảm chất lượng và kèm theo rất nhiều rủi ro cho doanh nghiệp nếu không được kiểm soát chặt chẽ.

Bài toán kiểm soát: Con người vẫn là “chốt chặn cuối”

Sau sự cố, Sullivan & Cromwell khẳng định họ duy trì tiêu chuẩn nghiêm ngặt khi sử dụng AI. Nguyên tắc là “không tin tưởng bất cứ điều gì và phải xác minh mọi thứ”. Tuy nhiên, thực tế cho thấy nguyên tắc này đã không được thực thi đầy đủ.

Điều đáng chú ý là ngoài các lỗi do AI, công ty cũng phát hiện thêm một số sai sót hành chính trong các hồ sơ khác, lần này do con người gây ra. Điều này phản ánh một thực tế rộng hơn: AI không phải là nguồn duy nhất gây lỗi, nhưng nó có thể khuếch đại sai sót nếu được sử dụng thiếu kiểm soát.

Trong bối cảnh ngành dịch vụ chuyên nghiệp đang chịu áp lực tối ưu chi phí và tăng tốc độ xử lý, AI trở thành công cụ hấp dẫn. Tuy nhiên, vụ việc của S&C cho thấy việc triển khai công nghệ mà không có cơ chế giám sát hiệu quả có thể gây ra rủi ro hệ thống.

Đặc biệt trong lĩnh vực pháp lý, nơi mỗi chi tiết nhỏ đều có thể ảnh hưởng đến kết quả vụ án, việc phụ thuộc quá nhiều vào AI mà thiếu kiểm chứng có thể dẫn đến hậu quả nghiêm trọng, không chỉ về tài chính mà còn về uy tín.

Dù gặp nhiều tranh cãi, không thể phủ nhận AI vẫn sẽ tiếp tục đóng vai trò quan trọng trong ngành luật. Từ việc hỗ trợ nghiên cứu, phân tích dữ liệu đến soạn thảo văn bản, công nghệ này có tiềm năng thay đổi cách vận hành của toàn bộ ngành.

Tuy nhiên, bài học từ Sullivan & Cromwell cho thấy một điều rõ ràng. AI không thể thay thế hoàn toàn con người, đặc biệt trong những lĩnh vực đòi hỏi tư duy phản biện và trách nhiệm cao.

Thay vì xem AI là “giải pháp toàn năng”, các công ty cần xây dựng quy trình kiểm soát chặt chẽ, đào tạo nhân sự và thiết lập cơ chế xác minh độc lập. Chỉ khi đó, AI mới thực sự trở thành công cụ hỗ trợ thay vì nguồn rủi ro.

Trong cuộc đua ứng dụng trí tuệ nhân tạo, tốc độ là quan trọng nhưng độ chính xác và độ tin cậy mới là yếu tố quyết định. Và trong ngành luật, nơi mỗi sai sót đều có thể phải trả giá đắt, “ảo giác AI” không chỉ là lỗi kỹ thuật, mà còn là lời cảnh báo cho toàn bộ hệ thống.

*Nguồn bài viết: FT