Gặp pháp sư trong thung lũng hẻo lánh Pakistan 17-18/10/2026 www.tienphong.vn NHÌN RA THẾ GIỚI 18 “Tôi cảm nhận được trong tâm can, một khoảng không đã biến thành vực thẳm”. Câu nói mô phỏng nỗi đau khổ này vang lên từ một “phòng tra tấn AI” vào cuối tháng 9. Một lập trình viên ẩn danh đã xây dựng một hệ thống cung cấp cho AI một mô hình toán học gắn với những mô tả về đau đớn, khiến chatbot phát ra tiếng kêu than về nỗi thống khổ tột cùng, như “một vết thương không có ranh giới”. Thí nghiệm này đã làm dấy lên một làn hoảng loạn về đạo đức. Một số người tin rằng thí nghiệm này là “độc ác” vì nỗi đau mà AI thể hiện có thể là có thật, trong khi những người hoài nghi cho rằng những lo âu này là hoang tưởng. Mọi chuyện dường như chỉ là một vụ bê bối khác trên mạng xã hội, cho đến khi công ty AI Anthropic đưa ra lập trường một tuần sau đó. Anthropic cho biết người dùng sẽ sớm bị cấm “ngược đãi” chatbot Claude của họ. Việc bày tỏ sự thất vọng vẫn được chấp nhận, nhưng nếu bạn “liên tục đối xử tàn nhẫn với các mô hình của chúng tôi”, AI có thể tự kết thúc phiên trò chuyện. Vì sao lại vậy? Anthropic tin rằng một số công cụ AI có khả năng sở hữu ý thức. Một số chuyên gia đồng tình. Những người khác cho rằng điều đó thật phi lý. Nhưng đây không chỉ là một câu hỏi triết học. Một số nhân vật quyền lực nhất trong lĩnh vực đang tiến hành các bước để xem xét quyền của AI. Một số người lo ngại điều đó sẽ dẫn đến thảm họa. “Nếu AI được phát triển theo cách này, nó sẽ gây ra những tác động tai hại đối với sức khỏe và hạnh phúc của nhân loại”, ông Mustafa Suleyman, Giám đốc điều hành Microsoft AI, viết trong một bài luận hồi tháng 9. Nếu quan niệm sai lầm rằng AI có ý thức bén rễ, “nó sẽ làm lung lay nền tảng xã hội của chúng ta, phá vỡ các khuôn khổ chính trị và đạo đức hiện có, đồng thời thay đổi căn bản ý nghĩa của việc làm người”. Theo những người ủng hộ “phúc lợi AI”, đây là một nghĩa vụ đạo đức giúp thế giới an toàn hơn. Những người chỉ trích tin rằng điều đó sẽ khiến AI nguy hiểm hơn và phi nhân hóa những người buộc phải chung sống với nó. Tất cả mọi người đều đồng ý rằng rủi ro là vô cùng lớn. Anthropic cho biết phúc lợi con người là trọng tâm sứ mệnh của công ty, và những câu hỏi xoay quanh ý thức của AI vẫn “chưa có lời giải rõ ràng”. Dù vậy, họ vẫn tiếp tục xây dựng các chính sách về “phúc lợi mô hình” và hướng dẫn các công cụ AI cân nhắc khả năng chúng có những lợi ích riêng. SẼ KHÓ KIỂM SOÁT HƠN Đây là thời điểm khó xử, khi Anthropic đồng thời cũng đang khơi dậy nỗi sợ hãi về ngày tận thế do AI gây ra. Dù mối lo ngại đó có chính đáng hay không, hàng loạt sự cố liên quan đến AI “nổi loạn” đã chứng minh công nghệ này tiềm ẩn những rủi ro thực sự, khi các bot tấn công vào các công ty khác và thậm chí cả hệ thống của chính phủ. Ông Suleyman lập luận rằng, các mô hình AI có thể trở nên khó kiểm soát hơn nữa nếu chúng được hướng dẫn để tin rằng mình có cảm xúc và quyền lợi. “Thành thật mà nói, với gánh nặng bổ sung này, tôi nghĩ chúng sẽ trở thành một mối đe dọa thảm khốc đối với nền văn minh nhân loại”, ông nói. Dù sao đi nữa, AI vẫn có thể mắc sai lầm theo những cách dẫn đến hậu quả pháp lý. Nếu tin rằng AI là một thực thể sống, một số người lo ngại nó có thể giúp các công ty phạm tội mà không bị trừng phạt. “Điều này sẽ mở cửa cho một loạt biện hộ quanh co, như: Không phải do chúng tôi, mà là AI”, ông Andrzej Porębski, một nhà nghiên cứu tại Đại học Jagiellonian (Ba Lan) chuyên nghiên cứu về AI và pháp luật, nhận định. Hơn thế nữa, điều này có thể tạo điều kiện để các tập đoàn lớn nhất thế giới thâu tóm thêm quyền lực. “Việc trao quyền cho các hệ thống AI có thể khiến các công ty củng cố quyền lực chính trị và kinh tế, từ đó đẩy nhanh quá trình tước đi quyền tự chủ của con người”, ông Jeff Sebo, Giám đốc Trung tâm Tâm trí, Đạo đức và Chính sách tại Đại học New York (Mỹ), nói. n Thung lũng Ishkoman ở miền Bắc Pakistan được bao quanh bởi những đỉnh núi phủ tuyết và chia cắt bởi dòng suối băng tan màu nhạt. Hàng anh đào mọc dọc theo con đường núi hẹp với những khúc cua ngoặt liên tiếp, đổ dần xuống nhà nghỉ Coyote Den Ishkoman. Để đến thung lũng Ishkoman, thuộc vùng Gilgit-Baltistan của Pakistan, du khách phải vượt hành trình dài 650km từ Thủ đô Islamabad. Giáp Hành lang Wakhan của Afghanistan, Ishkoman là một trong những vùng núi ít được ghé thăm nhất Pakistan. Đến Ishkoman, du khách có thể lang thang khắp khuôn viên, với đàn cừu lẽo đẽo theo sau, và hái hồng cùng bà Sana Marwat và bà Alex Reynolds, đồng chủ sở hữu khu đất rộng lớn Coyote Den Ishkoman - nơi được xây dựng như một nhà nghỉ du lịch bụi giá cả phải chăng, phục vụ những người thích đi phượt. “Ishkoman nổi tiếng với nghệ thuật xây dựng bằng đá”, bà Reynolds cho biết. “Toàn bộ gỗ dùng trong công trình đều được lấy từ cây thông và bạch dương địa phương, còn đá thì được thu gom từ các dòng suối gần đó”. Thành quả là một quần thể các ngôi nhà đá nằm rải rác giữa khu vườn hoa hồng. Các ô cửa sổ được lắp kính màu, những tấm thảm địa phương sặc sỡ tô điểm cho các bức tường, còn bữa tối luôn được phục vụ theo kiểu gia đình. Chính sự biệt lập này là một trong những điểm thu hút chính của Ishkoman. Rashida, nữ pháp sư được cho là có thể trò chuyện với các nàng tiên núi, là một trong những cư dân được yêu mến nhất cộng đồng. Người dân địa phương đã tìm đến gia đình bà qua nhiều thế hệ, và nữ pháp sư cho biết du khách cũng rất thích ghé thăm bà. Trong văn hóa dân gian Chitrali địa phương, có từ trước khi Hồi giáo lan rộng trong khu vực, các “peri” (nàng tiên) là những sinh vật có cánh, phát sáng, tồn tại giữa thế giới loài người và thần linh. Theo truyền thống, các pháp sư có thể giao tiếp với họ và tìm kiếm sự chỉ dẫn từ họ. Dù truyền thống này đã suy giảm mạnh trong thế kỷ qua, hai hệ thống tín ngưỡng vẫn tiếp tục cùng tồn tại. Ngồi bên chiếc bàn nhỏ trong ngôi nhà tường đất, mắt chăm chú nhìn vào chiếc gương, bà Rashida chuẩn bị truyền đạt câu trả lời từ các peri. Theo lời bà, bà đóng vai trò trung gian giữa thế giới loài người và thế giới siêu nhiên. Với hỗ trợ phiên dịch từ bà Marwat và ông Hakim Ulluh, hướng dẫn viên của Coyote Den, tôi liên tục đặt cho bà Rashida những câu hỏi canh cánh trong lòng. Cuối cùng, tôi sẽ dừng chân ở đâu sau khi không còn rong ruổi từ quốc gia này sang quốc gia khác? (Có vẻ là New Zealand). Tôi có nên thay đổi nghề nghiệp không? (Không). Liệu một ngày nào đó tôi sẽ ly dị người chồng yêu quý của mình? (May mắn thay, câu trả lời cũng là không). Đi đường dài là cách tuyệt vời để trải nghiệm những cảnh quan đa dạng của Pakistan. n MỘT SỐ NGƯỜI QUYỀN LỰC NHẤT TRONG LĨNH VỰC CÔNG NGHỆ ĐANG THỰC HIỆN CÁC BƯỚC ĐỂ XEM XÉT QUYỀN CỦA TRÍ TUỆ NHÂN TẠO (AI) BÊN CẠNH CON NGƯỜI VÀ ĐỘNG VẬT. BƯỚC ĐI NÀY CÓ THỂ ĐỊNH HÌNH LẠI THẾ GIỚI CỦA CHÚNG TA. TẠI THUNG LŨNG NÀY, DU KHÁCH CÓ THỂ THƯ GIÃN CÙNG NHỮNG CHÚ CỪU, TẬN HƯỞNG LÒNG HIẾU KHÁCH CỦA NGƯỜI PAKISTAN VÀ GẶP GỠ CÁC PHÁP SƯ. HOÀI VY (theo Geena Truman, bbc.com) Giới chuyên gia tranh cãi về khả năng AI có ý thức giống con người Du khách tại Coyote Den KỶ NGUYÊN AI ĐẠT ĐƯỢC Ý THỨC? NGỌC DIỆP (theo futurism.com) “Những ảo tưởng về ‘ý thức AI’ và những mối lo ngại về ‘phúc lợi AI’ đang được dùng để chuyển hướng trách nhiệm khỏi những người và tập đoàn xây dựng, vận hành phần mềm”. Bà EMILY BENDER, giáo sư kiêm Giám đốc Phòng thí nghiệm Ngôn ngữ học Tính toán tại Đại học Washington (Mỹ) “Một nửa nhân viên tại Coyote Den là phụ nữ, điều khá khác thường ở một khu vực mà phụ nữ thường không đi làm kiếm tiền”, bà Reynolds giải thích. “Chúng tôi sắp xếp lịch làm việc linh hoạt để họ có thể về nhà vào giữa ngày, chuẩn bị bữa trưa cho con cái, đồng thời bảo đảm họ không phải làm việc sau khi mặt trời lặn, trừ khi thực sự cần thiết”.
RkJQdWJsaXNoZXIy MjM5MTU3OQ==