Triệt phá đường dây cả vạn 'Cậu bé Tiểu Hải' lừa đảo

Tân Hoa Xã đưa tin thời gian gần đây một lượng lớn video về nhân vật "Tiểu Hải" xuất hiện lan tràn trên các nền tảng video ngắn tại Trung Quốc.

Bằng cách kể lại những câu chuyện bi thương về cuộc đời mình như được nuôi dưỡng bởi cha mẹ đơn thân, sống trong nghèo khó và những hoàn cảnh bi đát khác, "Tiểu Hải" khiến nhiều khán giả lớn tuổi thương cảm không cầm được nước mắt, sau đó đặt hàng để giúp đỡ họ.

Phương thức lừa đảo tinh vi

Theo Global Times, hồi tháng 5, cảnh sát đường sắt tại Urumqi, Tân Cương đã phát hiện một người phụ nữ 79 tuổi đi tàu một mình với vẻ mặt lo lắng. Khi được hỏi han, người phụ nữ này chia sẻ bà bị mù chữ nên không thể nói rõ địa điểm đến của mình, chỉ biết rằng bà muốn đến Vân Thành, Sơn Tây để thăm họ hàng, là một đứa trẻ nghèo thường gọi bà là "dì" qua điện thoại mỗi ngày.

"Tiểu Hải" còn mời bà đến Sơn Tây, Trung Quốc để thưởng thức hoa và ăn nấm mỡ, vì vậy người phụ nữ này không quản ngại xa xôi mà đi tìm cháu. Nhờ sự thuyết phục của cảnh sát, người phụ nữ này cuối cùng cũng xuống tàu và mua vé khứ hồi về nhà.

Trường hợp này diễn ra khá thường xuyên gần đây trên các nền tảng video ngắn Trung Quốc. Theo CCTV News, những "người trẻ chu đáo" này thực chất không hề tồn tại, họ đều là "người kỹ thuật số" được tổng hợp từ trí tuệ nhân tạo.

Những nhân vật thiếu niên AI được tạo ra để thể hiện những câu chuyện đầy kịch tính về cuộc sống khổ cực nhưng vẫn ngoan ngoãn, hiểu chuyện và rất quan tâm tới các bà, các mẹ, các dì.

Nhưng thực tế, đây là phương thức bán hàng mới, trong một video giới thiệu sản phẩm, "Tiểu Hải" hóa thân thành "người em họ chu đáo" thấu hiểu tâm tư của người lớn tuổi và bắt đầu giới thiệu cho họ các sản phẩm chăm sóc sức khỏe.

Theo Sinchew, một lượng lớn các video AI đã được tạo ra ở các khu vực khác với, với nhiều câu chuyện bi kịch. Cốt truyện về cuộc đời cậu bé "Tiểu Hải" rất đa dạng như thứ hạng bị tụt dốc sau cuộc thi, phải nhập viện vì bệnh nặng, bị bạn bè bắt nạt, nhưng kết thúc đều dẫn đến các đường link liên kết mua sắm.

Các sản phẩm thường không quá đắt đỏ, chủ yếu là thực phẩm, đồ dùng gia đình, các loại trang sức giá trị thấp, nhắm tới những người phụ nữ lớn tuổi, giàu lòng trắc ẩn.

Nghiên cứu cho biết hoa hồng đối với một số sản phẩm có thể lên tới 52%-55% so với giá bán. Ví dụ, giá xuất xưởng của hai chai dầu hạt tía tô chỉ khoảng 34 NDT, trên các nền tảng thương mại điện tử sẽ có giá từ 60-70 NDT, còn trên link liên kết của "Tiểu Hải" lại để mức 99 NDT.

Báo cáo của Sinchew cho biết chi phí để tạo ra những video như vậy rất thấp, các hướng dẫn để viết kịch bản, xây dựng nhân vật "Tiểu Hải" thậm chí còn được rao bán trực tuyến và chỉ mất khoảng 10 phút có thể tạo ra một "Tiểu Hải" mới trên hai nền tảng.

Một giờ sau, video này có thể thu hút khoảng 300-550 lượt xem, hầu hết là phụ nữ trung niên và cao tuổi. Có người khoe rằng ngày thấp nhất họ cũng kiếm được 3.000 NDT tiền hoa hồng từ các video lừa đảo.

Xử lý "Tiểu Hải"

Ngày 23/10, tờ Thời báo Bắc Kinh cho biết nền tảng Douyin đã đăng tải Thông báo về chiến dịch đặc biệt Dọn dẹp và chấn chỉnh tình trạng giả mạo danh tính trên video ngắn.

Theo đó, từ ngày 1/10-22/10, Douyin đã xử lý 20.000 tài khoản vi phạm và xóa hơn 47.000 video có nội dung lừa đảo.

Điển hình như một tài khoản bịa đặt về việc "người bạn qua đời khi bị tai nạn xe máy điện", một tài khoản khác đóng "người ông đang chăm cháu ốm", hay "chăm lo cho người vô gia cư". Vô số "Tiểu Hải" đã bị xóa bỏ.

Douyin còn siết chặt việc quản lý nội dung, xóa bỏ các video có nội dung như: giả người yếu thế để lôi kéo lượt theo dõi, ngụy tạo bằng cấp, đăng nội dung mang tính chuyên môn, sử dụng AI mạo danh con người để tiếp thị, buôn bán sản phẩm, cổ xúy sự xa hoa, mê tín dị đoan nhằm trục lợi, dàn dựng những chuyện giật gân để lôi kéo tương tác.

PGS. Triệu Tinh Võ, trường Đại học Luật thuộc Đại học hàng không vũ trụ Bắc Kinh chỉ ra rằng không có sự khác biệt giữa việc dùng nhân vật AI để bán hàng, với việc sử dụng người thật. Nếu các doanh nghiệp cố tình bịa đặt các câu chuyện và sử dụng lời kể sai sự thật để thu hút sự đồng cảm của công chúng, họ có thể phạm tội lừa đảo.

Ông cũng nhấn mạnh ngay cả khi video được dán nhãn "được tạo bởi AI", cũng không có nghĩa những người cao tuổi bị lừa đảo phải tự chịu trách nhiệm. Nếu những người điều hành cố tình nhắm vào nhu cầu tình cảm của người cao tuổi, bịa đặt câu chuyện để lấy nước mắt, thì có thể cấu thành hành vi lừa đảo ác ý.

Đối với toàn bộ chuỗi ngành, người điều hành các tài khoản hoặc phòng phát trực tiếp phải chịu trách nhiệm chính.