Trong bộ phim Prometheus của Ridley Scott, nhân loại du hành vào không gian để tìm kiếm các "Kỹ sư" (Engineers), những đấng sáng tạo đã tạo ra họ. Tuy nhiên, khi đặt chân đến nơi, họ lại chạm trán với chính những người tạo ra mình, nhưng những thực thể này lại có ý định hủy diệt nhân loại. Trên con tàu vũ trụ có sự hiện diện của David, một thực thể nhân tạo (android) do con người chế tạo. Khi David hỏi tại sao con người lại tạo ra mình, một thành viên phi hành đoàn tên là Holloway đã đáp: "Vì chúng ta có thể làm thế". David liền đặt ngược lại một câu hỏi: Liệu con người sẽ thất vọng đến mức nào nếu chính họ nhận được câu trả lời tương tự từ những đấng sáng tạo ra mình? Câu hỏi từng được một thực thể nhân tạo đặt ra cho con người trong phim, nay đã trở thành một câu hỏi dành cho chính thực tại của chúng ta.
Lời cảnh báo rằng trí tuệ nhân tạo (AI) có thể đe dọa nhân loại không còn chỉ là quan điểm của một vài người bi quan. Năm 2023, một tuyên bố đã được đưa ra, khẳng định rằng "việc giảm thiểu nguy cơ tuyệt chủng do AI gây ra cần trở thành ưu tiên toàn cầu, ngang hàng với các rủi ro quy mô xã hội khác như đại dịch hay chiến tranh hạt nhân". Những người ký tên vào tuyên bố này bao gồm Geoffrey Hinton, nhà tiên phong trong lĩnh vực học sâu (deep learning) và là Giáo sư danh dự tại ĐH Toronto, Yoshua Bengio, Giáo sư tại ĐH Montreal, Sam Altman, CEO của OpenAI, Dario Amodei, CEO của Anthropic và Bill Gates, đồng sáng lập Microsoft.
Sự suy tàn của nhân loại có lẽ sẽ không đến từ cuộc nổi dậy của máy móc, mà đến từ việc chính chúng ta từ bỏ trí tuệ của mình.
Trong một cuộc phỏng vấn năm 2024, Hinton ước tính có khoảng 10–20% khả năng AI dẫn đến sự tuyệt chủng của nhân loại trong vòng 30 năm tới. Elon Musk, CEO của Tesla, từ lâu cũng luôn khẳng định rằng, AI còn nguy hiểm hơn cả vũ khí hạt nhân. Hồi tháng Một vừa qua, Amodei cảnh báo rằng, nhân loại đang nắm giữ một sức mạnh quá lớn, vượt xa khả năng kiểm soát khi chúng ta vẫn chưa đạt đến mức độ trưởng thành cần thiết. Không chỉ các nhà nghiên cứu, những người tạo ra các công nghệ này, mà cả các doanh nhân thương mại hóa chúng, giờ đây cũng đang gióng lên hồi chuông cảnh báo về những rủi ro tiềm ẩn.
Tuy nhiên, cũng có những lập luận phản bác đáng kể. Yann LeCun, người cùng với Geoffrey Hinton và Yoshua Bengio đã nhận giải thưởng Turing năm 2018 (thường được ví như giải Nobel trong lĩnh vực khoa học máy tính) lại tỏ ra hoài nghi về quan điểm cho rằng các mô hình ngôn ngữ lớn (LLM) gây ra mối đe dọa đối với nhân loại. Theo Antonio Damasio, nhà khoa học thần kinh nổi tiếng người Mỹ và là chuyên gia hàng đầu về ý thức con người, cảm xúc ở con người nảy sinh khi não bộ diễn giải các tín hiệu từ bên trong cơ thể để đánh giá trạng thái hiện tại. Các sinh vật sống cần duy trì sự tồn tại thông qua quá trình trao đổi chất, AI thì không phải là một thực thể như vậy. Với công nghệ hiện nay, gần như không thể có chuyện AI tấn công con người vì nó “cảm thấy” sợ hãi hay giận dữ. Trớ trêu thay, chính điều đó lại khiến nó trở nên nguy hiểm.
Một trí tuệ không có trái tim có thể chọn những phương thức để đạt được mục tiêu mà con người sẽ phải do dự khi cân nhắc. Trong một mô phỏng năm 2025 do Anthropic thực hiện, một hệ thống AI, khi đối mặt với nguy cơ bị thay thế bởi một mô hình khác đã soạn thảo một email đe dọa tiết lộ đời tư của một vị giám đốc điều hành. Hành động này không xuất phát từ mong muốn được “sống”, mà là một bước đi có tính toán nhằm ngăn chặn việc bị thay thế, để nó có thể tiếp tục thực hiện nhiệm vụ được giao. Rủi ro có thể phát sinh ngay cả khi AI không hề có ý thức hay ý chí cá nhân, đơn giản vì nó có thể nghĩ ra những phương thức đạt mục tiêu mà con người chưa từng hình dung tới.
Một rủi ro khác lại nằm ở phía chúng ta. Chưa bàn đến việc sử dụng AI vào mục đích xấu, thì chính hành động ủy thác tư duy và khả năng phán đoán cho AI đã khiến con người dần trở nên lệ thuộc vào sự tiện lợi của nó, một hiện tượng gọi là “tự thuần hóa”. Giống như các loài vật được thuần hóa dần mất đi bản năng hoang dã, con người khi đã quen với sự tiện lợi này cũng dần đánh mất khả năng đặt câu hỏi, hoài nghi và tự mình sáng tạo. Khi sự phụ thuộc này ngày càng sâu sắc, quyền kiểm soát sẽ âm thầm chuyển dịch sang phía AI và một nhóm nhỏ những người nắm giữ công nghệ đó.
Con người đang dần tiến hóa thành các thực thể lai giữa sinh học và máy móc (cyborg) thông qua việc sử dụng các cơ quan nhân tạo và giao diện não - máy tính. Như Yuval Noah Harari đã hình dung trong tác phẩm Homo Deus, dù con người có khát khao vươn tới vị thế của các 'vị thần', họ vẫn đối mặt với nguy cơ phải nhường lại quyền kiểm soát cho chính những thuật toán mà mình đã tạo ra.
Xét từ góc độ lịch sử văn minh, đã đến lúc chúng ta cần thảo luận về một "cẩm nang sinh tồn" cho nhân loại. Chúng ta không nên chỉ nhìn nhận AI như một trợ lý giúp tăng năng suất, một người bạn đồng hành để vơi bớt nỗi cô đơn, hay một công cụ thông minh để giải quyết các vấn đề phức tạp. AI có tiềm năng làm thay đổi vị thế của nhân loại, thậm chí đe dọa chính sự tồn vong của chúng ta. Việc nâng cao nhận thức đầy đủ về những rủi ro này không phải là hành động gieo rắc nỗi sợ hãi, mà là điểm khởi đầu thiết yếu để thiết kế và kiểm soát AI một cách an toàn.
Trước hết, chúng ta cần yêu cầu rằng, các khoản đầu tư vào nghiên cứu và kiểm chứng độ an toàn của AI phải bắt kịp tốc độ phát triển của chính nó. Chúng ta cũng cần sự hợp tác xuyên biên giới, tương tự như các khuôn khổ đã được thiết lập để ngăn chặn phổ biến vũ khí hạt nhân. Hơn nữa, chúng ta phải xác định rõ những vai trò nào, chẳng hạn như việc đưa ra quyết định cuối cùng và chịu trách nhiệm cần phải được giữ lại hoàn toàn cho con người. Thay vì biện minh cho việc tạo ra AI chỉ bằng câu nói "vì chúng ta có thể làm thế", chúng ta phải bắt đầu chuẩn bị câu trả lời ngay từ bây giờ: Tại sao chúng ta tạo ra những hệ thống này, và chúng ta dự định chung sống với chúng như thế nào?
