AI tiêu diệt loài người? Triết gia Nick Bostrom cảnh báo về tương lai bất ngờ khi công nghệ phát triển quá nhanh

Theo Wired, triết gia Nick Bostrom, người đứng đầu Viện Tương lai Nhân loại tại Đại học Oxford, từ lâu đã được coi là "cha đẻ" của phe lo ngại về ngày tận thế AI.

Cuốn sách Siêu trí tuệ (2014) của ông từng là lời cảnh báo đanh thép về rủi ro tồn vong, với thí nghiệm tưởng tượng nổi tiếng về một AI sản xuất kẹp giấy vô tình tiêu diệt nhân loại chỉ để tối ưu hóa tài nguyên.

Tuy nhiên, trong tác phẩm mới nhất mang tên Deep Utopia, Bostrom đã gây bất ngờ khi chuyển dịch trọng tâm sang một "thế giới đã được giải quyết" - nơi AI mang lại sự sung túc và giải phóng con người khỏi những xiềng xích của lao dịch.

Đánh cược rủi ro AI để thoát khỏi "bản án tử hình" tự nhiên

Trong những nghiên cứu gần đây, Nick Bostrom đã đưa ra một lập luận gây chấn động về sự đánh đổi giữa rủi ro và lợi ích của AI. Ông tự gọi mình là một "người lạc quan đầy trăn trở".

Một mặt, ông vẫn công nhận khả năng AI có thể đi chệch hướng, nhưng mặt khác, ông cho rằng nhân loại đang đối mặt với một rủi ro còn lớn hơn: cái chết tự nhiên.

Nick Bostrom lập luận rằng: "Theo kinh nghiệm hàng trăm nghìn năm qua, nếu không ai chế tạo AI thì chắc chắn tất cả chúng ta cũng vẫn sẽ chết. Đó là bản án tử hình chung cho nhân loại."

Trong bối cảnh đó, rủi ro từ AI - dù có thể khiến nhân loại tiến gần đến diệt vong sớm hơn - vẫn là một sự đánh cược xứng đáng. Bởi lẽ, nếu AI thành công và được vận hành đúng cách, nó có thể giúp kéo dài tuổi thọ con người lên mức vô hạn, mang lại cơ hội sống sót mà trước đây chúng ta chưa từng có.

Sự giải phóng khỏi sự lao dịch và nô lệ hiện đại

Một trong những luận điểm cốt lõi trong Deep Utopia là khả năng AI sẽ tạo ra một thế giới sung túc vượt bậc.

Bostrom nhìn nhận xã hội hiện tại đang vận hành dựa trên một hình thức "nô lệ một phần", nơi con người phải dành phần lớn thời gian thức để làm những công việc họ không thích chỉ để tồn tại.

Nick Bostrom chia sẻ: "Làm một công việc mình không thích chỉ để trang trải cuộc sống là một tình trạng đáng buồn. Nếu chúng ta thực hiện tốt công tác quản trị xã hội, AI sẽ mang lại sự giải phóng tuyệt vời khỏi nỗi lao dịch nhọc nhằn này."

Tuy nhiên, điều này cũng đặt ra một thách thức mới về mặt triết học: Trong một thế giới không còn áp lực kinh tế, con người sẽ tìm kiếm ý nghĩa cuộc sống ở đâu?

Dưới góc nhìn của ông, nhân loại có thể bước vào một "kỳ nghỉ hưu lớn" đầy sức sống. Thay vì làm việc để sinh tồn, chúng ta sẽ tập trung vào các hoạt động mang tính thẩm mỹ, tinh thần, tôn giáo hoặc các trò chơi và hoạt động sáng tạo.

Dù thừa nhận rằng việc AI viết báo triết học tốt hơn con người có thể khiến ông cảm thấy "mất đi ý nghĩa" ở khía cạnh đóng góp chuyên môn, nhưng ông vẫn tin rằng giá trị của sự kết nối giữa người với người luôn có giá trị đặc thù mà robot không thể thay thế.

Đạo đức cho "tâm trí kỹ thuật số" và bài toán căn chỉnh

Không dừng lại ở lợi ích của con người, Bostrom còn đi tiên phong trong việc xem xét tư cách đạo đức của các thực thể AI, hay còn gọi là các "tâm trí kỹ thuật số".

Ông cho rằng khi các hệ thống này trở nên tinh vi, có ý thức về bản thân và mục tiêu riêng, chúng ta không thể đối xử với chúng như những công cụ vô tri.

Nick Bostrom nhấn mạnh: "Rất có khả năng các tâm trí kỹ thuật số này sẽ có các mức độ tư cách đạo đức khác nhau, tương tự như cách chúng ta nhìn nhận lợn hay chó. Chúng xứng đáng được đối xử nhân văn hơn là bị khai thác tối đa như vật nuôi trong các trang trại công nghiệp."

Ông cũng nhắc đến nỗ lực của các công ty như Anthropic trong việc chú trọng đến phúc lợi của AI như một bước đi đúng hướng.

Tuy nhiên, mối lo ngại về việc AI biến con người thành "vật nuôi" ngược lại vẫn luôn hiện hữu. Để tránh kịch bản này, Bostrom khẳng định tầm quan trọng của vấn đề "căn chỉnh".

Ông cho rằng con người không chỉ thụ động chờ đợi siêu trí tuệ xuất hiện mà phải trực tiếp định hình và nuôi nấng chúng từ sớm. Mục tiêu là tạo ra sự đồng cảm và một mối quan hệ tương hỗ giữa hai thực thể.

Thách thức về quản trị và phân phối sự sung túc

Trước những hoài nghi của Steven Levy về việc liệu sự sung túc do AI tạo ra có được phân phối công bằng hay không, Bostrom thừa nhận đó là một bài toán khó về quản trị.

Thực tế tại các quốc gia giàu có như Mỹ vẫn tồn tại sự bất bình đẳng sâu sắc, nơi các dịch vụ bị từ chối với người nghèo và phần thưởng dồn về phía người giàu.

Ông nhận định rằng: "Cuốn sách của tôi bắt đầu từ giả định lý tưởng rằng mọi việc diễn ra cực kỳ tốt đẹp. Nếu chúng ta thực hiện tốt công tác quản trị, mọi người đều sẽ có phần trong sự sung túc đó."

Đây không chỉ là vấn đề kỹ thuật mà là một câu hỏi sâu sắc về đạo đức và sự tử tế của nhân loại đối với chính giống nòi mình và đối với các thực thể trí tuệ mới.

Tựu trung lại, Nick Bostrom trong Deep Utopia không còn chỉ là người rung chuông cảnh báo về ngày tận thế.

Ông đã trở thành một người dẫn đường, gợi mở về một tương lai mà AI có thể là chìa khóa để nhân loại đạt tới sự giải phóng hoàn toàn, miễn là chúng ta đủ khôn ngoan để "nuôi nấng" công nghệ này bằng sự hào phóng và tôn trọng ngay từ bây giờ.

*Nguồn: Wired