Khi AI bị lạm dụng: Hóa "trợ thủ" bạo lực học đường, bắt nạt tinh thần tinh vi

HHTO - Giữa lúc dân tình còn đang trầm trồ vì Trí tuệ nhân tạo (AI) vẽ tranh siêu đỉnh, làm toán siêu nhanh, thì ở một góc tối khác của thế giới học đường, công nghệ này lại đang vô tình bị lạm dụng như một công cụ bắt nạt tinh thần tinh vi hơn bao giờ hết.

Khi hình ảnh và giọng nói bị "pha-ke" trong một nốt nhạc

Theo báo cáo từ UNESCO, có đến 1/3 học sinh trên thế giới từng là nạn nhân của bạo lực học đường và 10% trong số đó diễn ra hoàn toàn trên không gian mạng (cyberbullying). Sự phát triển mạnh mẽ của AI càng khiến những hành vi bắt nạt này trở nên dễ thực hiện hơn.

Trong đó, Deepfake và công nghệ giả giọng nói (AI voice clone) đang là hai công cụ bị lạm dụng nhiều nhất. Thử tưởng tượng một ngày đẹp trời, hình ảnh hoặc giọng nói của bạn bị cắt ghép thành những video phản cảm hoặc những phát ngôn sai sự thật rồi phát tán trong group lớp, fanpage hay trên các nền tảng mạng xã hội. Dù biết là sản phẩm giả mạo, những nội dung này vẫn có thể khiến bạn rơi vào khủng hoảng tâm lý, xấu hổ, thậm chí là không dám gặp ai.

bat-nat-hoc-duong-bang-ai-17777978501481057726575.jpg
AI có thể trở thành "trợ thủ" bắt nạt học đường mới trong thời đại số.

Chưa hết, các chiến thần ẩn danh còn tận dụng luôn các chatbot AI để viết hàng loạt bình luận body shaming, quấy rối hoặc nhục mạ bạn một cách tự động. Thay vì ngồi gõ phím đến mỏi tay, kẻ bắt nạt chỉ cần "ra lệnh" cho AI thả những chiếc meme bôi nhọ dồn dập, khiến nạn nhân chỉ biết "khóc thét" mỗi khi mở thông báo điện thoại.

Đừng biến trò vui thành tổn thương đi cùng năm tháng

Ngay tại Việt Nam, mạng xã hội từng xôn xao trước vụ việc bạo lực tinh thần học đường xảy ra tại một trường THPT ở Hà Nội. Chỉ vì mâu thuẫn nhỏ, hai nữ sinh lớp 11 đã dùng công nghệ AI để cắt ghép hình ảnh, tạo một video "chế giễu" ngoại hình của bạn học rồi tung lên mạng. Đoạn clip nhanh chóng viral với 1,5 triệu lượt xem cùng cả rổ bình luận khiếm nhã từ cư dân mạng trước khi nhà trường vào cuộc xử lý kỷ luật.

top_view_portrait_woman_lying_desk_near_laptop_1163_2127_QUGQ.jpg
Thay vì dùng AI để tạo ra những trò đùa "kém duyên" làm tổn thương người khác, tại sao tụi mình không cùng AI lan tỏa sự tử tế?

Chia sẻ về trào lưu "bắt nạt 4.0" này, ThS. Võ Thị Mỹ Duyên (Học viện Kỹ năng VTALK) nhắn nhủ:

“Các trào lưu 'biến hình bằng AI' rất dễ bị học sinh lợi dụng để gán ghép hình ảnh bạn bè vào các nội dung tiêu cực. Nhiều em thiếu kỹ năng số, không nhận thức được rằng hành động 'chỉ để vui' lại gây ra tổn thương sâu sắc cho người khác. Một bức ảnh hay video deepfake lan truyền trên mạng có thể đi theo và ám ảnh nạn nhân suốt đời.”

AI không xấu, cách con người sử dụng mới là điều đáng lo

Bản thân AI không tạo ra bạo lực học đường. Điều khiến nhiều chuyên gia lo ngại chính là việc các công cụ này ngày càng dễ tiếp cận, trong khi nhận thức và kỹ năng của người sử dụng lại chưa theo kịp.

Thế nhưng, AI không chỉ có một mặt. Nếu công nghệ này có thể bị lợi dụng để làm tổn thương người khác, liệu nó cũng có thể trở thành "lá chắn" giúp bảo vệ học sinh? Đây chính là hướng đi mà nhiều trường học và ngành giáo dục đang bắt đầu theo đuổi.