Ngày 1/5, Lý Hải cảnh báo về việc các video sử dụng AI để giả mạo hình ảnh và giọng nói nam ca sĩ để quảng cáo thuốc bổ, sản phẩm không rõ nguồn gốc.
Video dàn dựng tinh vi, khiến người xem dễ nhầm lẫn là nội dung do nghệ sĩ đăng tải. “Video nhìn rất thật, có thể khiến nhiều người tin, đặc biệt là người lớn tuổi. Tôi lo ngại công nghệ AI ngày càng phát triển và bị lợi dụng cho mục đích lừa đảo", Lý Hải cảnh báo.
Nam nghệ sĩ khẳng định toàn bộ nội dung quảng cáo nói trên đều là giả mạo, chưa được kiểm chứng và không liên quan đến Lý Hải. Đạo diễn kêu gọi khán giả chỉ theo dõi thông tin từ các kênh chính thức có xác thực, không chuyển tiền hoặc mua hàng qua các đường link lạ.
Tình trạng giả mạo nghệ sĩ bằng AI đang có dấu hiệu gia tăng. Đầu tháng 1, công an TPHCM triệu tập hai người liên quan đến việc lan truyền video giả mạo “Quyền Linh bị bắt”. Qua phân tích kỹ thuật, cơ quan chức năng xác định đây là sản phẩm dựng bằng AI, sử dụng hình ảnh và âm thanh ngụy tạo nhằm dẫn dắt dư luận theo hướng tiêu cực.
Từ cuối năm trước, nhiều fanpage liên tục đăng tải các video với nội dung như “bắt khẩn cấp Quyền Linh” hay “MC Quyền Linh bị bắt giữ”. Dù một số khán giả nhận ra dấu hiệu bất thường ở chuyển động gương mặt, vẫn có không ít người nhầm lẫn đây là thông tin thật. Nam nghệ sĩ sau đó đã phải lên tiếng đính chính, khẳng định mình không liên quan và cảnh báo công chúng cần tỉnh táo trước các nội dung do AI tạo ra.
Làn sóng giả mạo này không dừng lại ở một cá nhân. Hàng loạt nghệ sĩ như Nhật Kim Anh, Hồ Ngọc Hà, Ngô Thanh Vân, Mỹ Tâm… cũng từng lên tiếng khi bị cắt ghép hình ảnh, giọng nói để lan truyền tin giả hoặc quảng cáo sản phẩm kém chất lượng. Trước đó, Đại Nghĩa và Quốc Trường thậm chí phải “kêu cứu” vì bị giả giọng trong các video kêu gọi đầu tư lừa đảo.
Theo quy định, Luật Trí tuệ nhân tạo nghiêm cấm việc sử dụng công nghệ để giả mạo cá nhân, sự kiện nhằm lừa dối hoặc thao túng nhận thức người khác. Các hành vi này không chỉ xâm phạm danh dự, uy tín cá nhân mà còn tiềm ẩn nguy cơ gây thiệt hại tài sản cho người dân.
Trước diễn biến phức tạp, các nghệ sĩ và cơ quan chức năng đều khuyến cáo người dùng mạng cần kiểm chứng thông tin từ nguồn chính thống, cảnh giác với nội dung giật gân, đặc biệt là các video có dấu hiệu cắt ghép, giả mạo bằng AI.
