Một bài nghiên cứu được liệt kê trên hệ thống KCI (các tạp chí khoa học uy tín của Hàn Quốc được quản lý và lập chỉ mục bởi Quỹ Nghiên cứu Quốc gia Hàn Quốc - NRF), vốn được tài trợ gần 900 triệu won (khoảng hơn 17 tỷ đồng) từ ngân sách Chính phủ đã bị rút lại sau khi người ta phát hiện bài viết này trích dẫn một lượng lớn các nguồn tài liệu giả mạo do trí tuệ nhân tạo tạo ra.
Đây là trường hợp đầu tiên một bài báo nghiên cứu được tài trợ bởi Quỹ Nghiên cứu Quốc gia Hàn Quốc (một cơ quan nhà nước) bị thu hồi do các vấn đề liên quan đến việc sử dụng AI.
Bài báo nghiên cứu này do một nhóm tác giả từ một trường đại học trong nước thực hiện, tập trung phân tích hệ sinh thái ngành công nghiệp vũ trụ của Trung Quốc, cũng như cơ chế hợp tác dân sự - quân sự tại nước này.
Công trình đã nhận được khoản tài trợ trị giá gần 900 triệu won từ các tổ chức như Quỹ Nghiên cứu Quốc gia Hàn Quốc (trực thuộc Bộ Khoa học và CNTT) và được đăng trên một tạp chí thuộc danh mục KCI, hệ thống được công nhận về uy tín tại Hàn Quốc.
Tuy nhiên, văn bản gốc của bài báo hiện có dòng chữ "Retracted" (Đã bị thu hồi) được đóng dấu nổi bật. Nguyên nhân là do người ta phát hiện ra hàng loạt sai sót trong danh mục tài liệu tham khảo của bài báo.
Trong một trường hợp, một bài báo về chiến lược không gian đã đưa tài liệu về "chính sách chăm sóc sức khỏe mắt" của Chính phủ Trung Quốc vào danh mục tham khảo một cách khó hiểu, trong khi một số bài báo khác có tiêu đề không khớp với nội dung thực tế. Trong số khoảng 40 trường hợp được kiểm tra, có 17 trường hợp mắc lỗi liên quan đến nguồn tài liệu tham khảo như vậy.
Các tác giả đã sử dụng AI tạo sinh để tổng hợp danh mục tài liệu tham khảo nhưng lại chỉ sao chép và dán các "tài liệu tham khảo giả" do AI tạo ra. Đây là lần đầu tiên, một bài báo đăng trên tạp chí thuộc danh mục KCI, vốn nhận được tài trợ từ Quỹ Nghiên cứu Quốc gia Hàn Quốc trong vòng 5 năm qua bị thu hồi do các vấn đề liên quan đến việc sử dụng AI.
Mặc dù bài báo được xuất bản vào tháng Ba năm ngoái, nó vẫn giữ nguyên trạng thái được liệt kê trong danh mục KCI và được các bài báo khác trích dẫn trong hơn một năm, cho đến khi một trợ lý của hiệp hội học thuật phát hiện ra các sai sót và bài báo bị thu hồi.
Nghị sĩ Lee Ju Hee, Đảng Dân chủ Hàn Quốc (Ủy ban Khoa học, CNTT, Phát thanh và Truyền thông thuộc Quốc hội) cho biết: "Vấn đề chỉ được phơi bày khi hiệp hội học thuật tiến hành rà soát đạo đức nghiên cứu sau khi sự việc đã xảy ra. Chúng ta cần xem xét kỹ lưỡng các vấn đề về quy trình và những lỗ hổng thể chế trong quy trình xét duyệt đưa vào danh mục KCI".
Tác giả (mang họ Jeong) giải thích rằng, công cụ AI chỉ được sử dụng cho các tác vụ hỗ trợ như tìm kiếm tài liệu tham khảo, đồng thời khẳng định các sai sót chỉ là lỗi vô ý trong quá trình biên tập. Tuy nhiên, bài báo cuối cùng vẫn bị kết luận là vi phạm đạo đức nghiên cứu, dẫn đến việc tác giả bị cấm gửi bài cho tạp chí đó trong vòng ba năm.
Khi việc sử dụng AI bùng nổ trong lĩnh vực nghiên cứu, những lo ngại về vi phạm đạo đức nghiên cứu cũng gia tăng tương ứng. Các nhà phê bình chỉ ra rằng, các hướng dẫn sử dụng AI tạo sinh nhằm ngăn chặn vấn đề này thực chất chỉ là những tuyên bố mang tính hình thức và không có tính ràng buộc. Do đó, cần cấp thiết triển khai các biện pháp hiệu quả, chẳng hạn như tăng cường quy trình kiểm chứng trong quá trình thẩm định bài báo.
