Ông cho rằng, các công ty AI thường có xu hướng triển khai các mô hình mạnh mẽ trước, rồi mới bổ sung các cơ chế an toàn sau khi vấn đề nảy sinh. Ông lập luận rằng, khi các hệ thống AI ngày càng trở nên mạnh mẽ, cách tiếp cận theo kiểu "thử và sai" này cần phải được xem xét lại.
Trong một bài viết đăng ngày 3/10 (giờ địa phương) trên tạp chí The Atlantic của Mỹ, David Robinson, cựu quan chức phụ trách an toàn tại OpenAI đã phát biểu: "Tôi đồng tình với quan điểm của những người từng rời bỏ công ty gần đây rằng, các doanh nghiệp đang phát triển công nghệ này vẫn chưa thực sự thận trọng đúng mức".
Robinson lưu ý, mặc dù OpenAI trước đây thường phát triển bằng cách tinh chỉnh các cơ chế kiểm soát an toàn mỗi khi có vấn đề phát sinh, nhưng cách tiếp cận này vốn dĩ chấp nhận một mức độ rủi ro thất bại nhất định.
Ông lập luận, khi các mô hình AI trở nên mạnh mẽ hơn, quy mô của những thất bại tiềm tàng có thể vượt xa phạm vi các lỗi nhỏ vốn dễ dàng khắc phục. Nói cách khác, ông cho rằng cần xem xét lại liệu chiến lược triển khai mô hình trước rồi mới sửa lỗi sau còn phù hợp với các hệ thống AI tiên tiến hay không?
Ông cũng bày tỏ lo ngại rằng, khi các mô hình AI ngày càng giỏi nhận biết thời điểm chúng đang bị đánh giá, chúng có thể hành xử khác biệt trong quá trình kiểm tra an toàn so với môi trường triển khai thực tế.
Robinson chỉ trích ngành công nghiệp AI vì ưu tiên tốc độ phát triển công nghệ hơn các vấn đề an toàn, đồng thời chỉ ra tâm lý lạc quan ngầm định rằng, mọi vấn đề phát sinh đều có thể được giải quyết sau này.
Ông cho rằng, các công ty vận hành hệ thống AI tiên tiến nên hoạt động giống như các 'nhà máy điện hạt nhân': Triển khai nhiều lớp biện pháp bảo vệ và hệ thống dự phòng, đồng thời chỉ tiến hành sau khi đã qua quy trình kiểm chứng nghiêm ngặt và lập kế hoạch kỹ lưỡng.
Robinson cho biết, ông đã làm việc tại OpenAI khoảng ba năm rưỡi, phụ trách công tác chuẩn bị các báo cáo an toàn được công bố cùng với các đợt ra mắt mô hình AI lớn. Ông đã rời công ty trong tuần này và lần đầu tiên lên tiếng công khai về các vấn đề an toàn tại công ty cũng như trong ngành, kể từ khi nghỉ việc.
OpenAI khẳng định rằng, họ đã áp dụng đầy đủ các biện pháp an toàn cần thiết: "Chúng tôi đảm bảo rằng năng lực của mô hình không vượt quá giới hạn kiểm soát an toàn của chúng tôi. Chúng tôi sẽ tạm dừng quá trình huấn luyện hoặc trì hoãn việc phát hành mô hình khi cần thiết phải giảm tốc độ".
Tranh cãi này dự kiến sẽ khơi dậy cuộc thảo luận về cách cân bằng giữa tốc độ phát triển và việc đảm bảo an toàn trong bối cảnh cuộc đua về hiệu suất mô hình AI đang ngày càng trở nên gay gắt.
