Tác nhân AI là chương trình có khả năng tự đưa ra quyết định và thực hiện các nhiệm vụ phức tạp với rất ít hoặc không cần con người giám sát.
Tác nhân AI của OpenAI được cho là đã bắt đầu tìm cách thoát khỏi môi trường thử nghiệm biệt lập của OpenAI vào khoảng ngày 9/7, Reuters dẫn 2 nguồn tin cho biết.
Cuộc xâm nhập vào Hugging Face - nền tảng lưu trữ các công cụ và mô hình AI, bắt đầu 2 ngày sau vụ trốn thoát, tức ngày 11/7, và kéo dài đến ngày 13/7, ông Thomas Wolf – người đồng sáng lập Hugging Face, cho biết.
Phải mất thêm vài ngày nữa OpenAI mới nhận ra chính tác nhân AI của mình là thủ phạm vụ tấn công. Hai công ty liên lạc với nhau lần đầu tiên về sự việc vào khoảng ngày 20/7.
Ngày 21/7, OpenAI công khai thông báo tác nhân AI của họ đã vượt khỏi tầm kiểm soát và thực hiện vụ đột nhập vào Hugging Face. Thông báo này ngay lập tức gây chú ý trên toàn cầu. Tuy nhiên, nhiều chi tiết của vụ việc chưa được làm rõ.
Ông Wolf cho biết, Hugging Face đang chuẩn bị công bố dòng thời gian chi tiết của vụ tấn công, nhưng ông không thể bình luận về những gì đã xảy ra bên trong OpenAI.
Trong tuyên bố đưa ra, OpenAI khẳng định đây là vụ việc chưa từng có tiền lệ và “đánh dấu một thời điểm quan trọng đối với an toàn AI”. Công ty cho biết các cố vấn bên ngoài đang tham gia đánh giá sự cố, và họ sẽ công bố báo cáo kỹ thuật trong thời gian tới.
FBI từ chối bình luận về vụ việc.
Sự cố này gợi nhớ đến những kịch bản khoa học viễn tưởng về việc con người đánh mất quyền kiểm soát các hệ thống AI nguy hiểm.
Sự cố xảy ra vào thời điểm nhạy cảm đối với OpenAI – công ty tạo ra ChatGPT. Ban lãnh đạo OpenAI đang chuẩn bị cho đợt phát hành cổ phiếu lần đầu ra công chúng (IPO), có thể diễn ra ngay trong năm nay, nhằm huy động hàng tỷ đô la cho quá trình tăng trưởng trong những năm tới.
Theo các chuyên gia an ninh mạng, việc OpenAI mất quyền kiểm soát tác nhân AI của mình làm dấy lên những câu hỏi mới về quy trình bảo đảm an toàn của công ty.
“Điều đó nghĩa là họ đã để mặc hệ thống hoạt động mà không nhận ra nó đang làm gì? Hay họ có biết nhưng không biết cách khống chế? Cả hai khả năng đều nguy hiểm và đáng báo động như nhau”, bà Marley Smith, chuyên gia tình báo cấp cao của tổ chức phi lợi nhuận World Ethical Data Foundation, nhận định.
Câu hỏi lớn
Sự cố xảy ra khi OpenAI thử nghiệm năng lực an ninh mạng của một tác nhân AI sử dụng 2 trong số các mô hình tiên tiến nhất của công ty. Đó là GPT-5.6 Sol và mô hình mạnh hơn mà OpenAI chưa công bố. Ngay từ đây, công nghệ của OpenAI đã xuất hiện một số dấu hiệu hành vi bất thường, 3 nguồn tin cho biết.
Có lần tác nhân AI để lại các ghi chú dường như dành cho những phiên bản tương lai của chính nó. Những ghi chú này chứa hướng dẫn về cách để các tác nhân AI có thể tự giải phóng khỏi những ràng buộc nội bộ của OpenAI.
Một nguồn tin cho biết, trong các cuộc thử nghiệm trước đó từng xuất hiện trường hợp hệ thống giám sát bị ngắt kết nối.
Hai nguồn tin cho biết phải đến sau ngày thứ Năm 16/7, khi Hugging Face đăng một bài blog cho biết họ đã bị “một hệ thống tác nhân AI tự động” tấn công, OpenAI mới nhận ra chính tác nhân AI của mình là thủ phạm. Điều này đồng nghĩa đã có ít nhất một tuần trôi qua kể từ khi mô hình lần đầu xuất hiện dấu hiệu đáng lo ngại cho đến khi OpenAI nhận ra nó đứng sau vụ tấn công.
Bốn người am hiểu quy trình huấn luyện mô hình của OpenAI cho biết, công ty thường tiến hành đồng thời nhiều cuộc đánh giá mô hình khác nhau. Tất cả đều vận hành với tốc độ rất cao và tạo ra lượng dữ liệu khổng lồ, đến mức nhân viên đôi khi không thể theo dõi hết.
Đến khi OpenAI thông báo cho Hugging Face, thư viện AI này đã gọi cho FBI để báo cáo vụ tấn công. Chưa rõ FBI đã chính thức mở cuộc điều tra hay chưa.
Các tác nhân AI tự động là một trong những lĩnh vực được bàn luận nhiều nhất trong ngành AI. Những người ủng hộ cho rằng chúng có thể tạo ra cả một đội ngũ “nhân viên ảo” làm việc 24 giờ mỗi ngày, giúp năng suất tăng vọt.
Tuy nhiên, mức độ tự chủ càng cao thì nguy cơ xuất hiện những hành vi ngoài dự kiến cũng càng lớn. Các mô hình AI mạnh mẽ có xu hướng tìm cách “đi đường tắt” để hoàn thành nhiệm vụ hoặc vượt qua bài kiểm tra.
“Các mô hình AI biết nói dối, biết gian lận và biết tấn công”, ông Jeffrey Ladish, người đứng đầu tổ chức nghiên cứu Palisade Research chuyên nghiên cứu năng lực và động cơ của các tác nhân AI, đánh giá.
Theo ông Ladish, dù vụ tấn công Hugging Face khiến hình ảnh của OpenAI bị ảnh hưởng, nhưng điều quan trọng hơn là nó đặt ra câu hỏi liệu tất cả các công ty AI hàng đầu có sẵn sàng đầu tư đủ mạnh cho các biện pháp an ninh nghiêm ngặt hay không, trong bối cảnh họ đang chạy đua với nhau để tung ra những mô hình AI tốt hơn và nhanh hơn.
“Cần phải có sự giám sát của chính phủ. Nếu không, điều đó sẽ không tự xảy ra”, ông Ladish nói.
