Nguy cơ 'ảo giác' khi dùng AI

TPO - AI tự bịa ra thông tin sai thực tế nhưng trình bày với giọng điệu khẳng định khiến người dùng tin là thật, dẫn đến hiện tượng 'ảo giác' AI mà nhiều người dùng gặp phải. Đây chỉ là một trong 4 rủi ro lớn nhất khi dùng AI.

Nguy cơ thao túng nhận thức và hiệu ứng đám đông giả

Được giao xây dựng kế hoạch cho một sự kiện của doanh nghiệp, chị Lê Hoa (phường Hai Bà Trưng) chỉ mất hơn một giờ đồng hồ để hoàn thiện nhờ dùng AI, công việc trước đây chị phải dùng 1-2 ngày.

Tự tin mang bản kế hoạch 6 trang lên trình sếp, chị Lê Hoa bất ngờ khi bị sếp trả lại với dấu gạch đỏ chi chít kèm ghi chú: “kiểm tra kỹ số liệu, thông tin trước khi nộp”. Chị Lê Hoa bất ngờ vì toàn bộ số liệu, thông tin do AI cung cấp với giọng văn chắc chắn khiến chị rất yên tâm.

Theo ông Nguyễn Hoàng Hiệp, giám đốc Vận hành Công ty Cổ phần AI Hay, hiện tượng “ảo giác AI” khá phổ biến.

AI tự bịa ra thông tin sai thực tế nhưng trình bày với giọng điệu khẳng định khiến người dùng tin là thật. Khi người dùng (đặc biệt nhóm không quen với sử dụng AI) tin tưởng và phụ thuộc vào các câu trả lời không được kiểm chứng, không có trích dẫn nguồn rõ ràng, hậu quả sẽ là sự sai lệch tri thức nghiêm trọng.

Nguyên nhân của tình trạng này, theo ông Hiệp, là do các mô hình ngôn ngữ lớn (LLM) dựa trên cơ chế dự đoán xác suất từ tiếp theo nên rất dễ bị “ảo giác”.

ao-giac-ai.png
Nhiều người dùng có thể gặp phải hiện tượng "ảo giác AI".

Đây chỉ là một trong 4 rủi ro lớn nhất khi dùng AI hiện nay. Theo chuyên gia Nguyễn Hoàng Hiệp, một trong những rủi ro lớn nhất cần được nhận diện và kiểm soát hiện nay là khả năng thao túng nhận thức và nguy cơ tạo ra hiệu ứng đám đông giả.

Cụ thể, đối tượng có ý đồ xấu sẽ kết hợp các dàn điện thoại tự động (phone farm) cùng trí tuệ nhân tạo (AI) và các tài khoản ảo (bot) để tạo ra hàng nghìn bình luận, lượt chia sẻ trông y hệt như người thật.

Mục đích lớn nhất không chỉ là tạo ra những con số tương tác ảo, mà là tạo ra một "hiệu ứng đám đông giả". Khi nhìn thấy hàng nghìn người cùng hô hào hoặc bàn tán về một thông tin sai lệch, người dùng rất dễ lầm tưởng đó là ý kiến chung của cả xã hội.

“Không chỉ con người bị lừa, mà ngay cả các thuật toán của mạng xã hội cũng bị đánh lừa để tiếp tục lan truyền nội dung đó rộng hơn. Cùng với sự bùng nổ của công nghệ làm giả video, hình ảnh (deepfake), niềm tin của công chúng vào những gì thấy trên mạng sẽ ngày càng bị xói mòn”, ông Hiệp nói, đồng thời lưu ý, đây được xem là rủi ro đáng sợ nhất trên không gian mạng hiện nay.

Cũng theo chuyên gia Nguyễn Hoàng Hiệp, một rủi ro rất lớn khác đến từ việc lạm dụng AI để tự động đưa ra các quyết định quan trọng gắn liền với quyền lợi con người — từ tuyển dụng nhân sự, tài chính cho đến giáo dục và pháp lý, mà thiếu đi sự giám sát trực tiếp của con người đang đặt ra những thách thức lớn về cả đạo đức lẫn pháp luật.

Bên cạnh đó, các dữ liệu của người Việt như thông tin cá nhân, tài liệu nội bộ hay thói quen tìm kiếm bị chuyển thẳng ra máy chủ nước ngoài nhưng thiếu lớp bảo mật phù hợp tại Việt Nam cũng đang đe dọa trực tiếp đến chủ quyền dữ liệu quốc gia.

Bốn giải pháp

Theo chuyên gia Nguyễn Hoàng Hiệp, để phát triển AI bền vững, Việt Nam cần xây dựng một hệ thống quản lý đồng bộ theo mô hình "kiềng ba chân" kết hợp chặt chẽ giữa Thể chế, Kỹ thuật và Giám sát liên ngành.

Trong đó, việc phân loại mức độ rủi ro của AI cần dựa trên bản chất kỹ thuật (như mức độ nhạy cảm của dữ liệu hay việc hệ thống có tự ra quyết định mà thiếu sự giám sát của con người không) thay vì chỉ đo đếm bằng số lượng người dùng.

Song song đó, cần thúc đẩy cơ chế thử nghiệm có kiểm soát (sandbox) để các sản phẩm AI mới được vận hành trong môi trường thực tế, đi kèm thời gian ân hạn hướng dẫn tuân thủ giúp doanh nghiệp có lộ trình hoàn thiện hạ tầng.

Một trong những giải pháp cụ thể được chuyên gia này gợi ý là nâng chuẩn kỹ thuật và tính minh bạch của sản phẩm. Trong đó, các công cụ AI phục vụ cộng đồng bắt buộc phải áp dụng quy trình kiểm chứng thông tin từ các nguồn uy tín trước khi đưa ra câu trả lời nhằm loại bỏ tình trạng tự suy đoán.

“Mọi nội dung do AI cung cấp đều phải trích dẫn nguồn gốc rõ ràng (như các trang chính phủ .gov, giáo dục .edu hay báo chí chính thống) để người dùng có thể tự kiểm tra và giữ quyền quyết định cuối cùng”, ông Hiệp đề xuất.

Chuyên gia này cũng đề xuất việc thiết lập cơ chế chia sẻ các dấu hiệu kỹ thuật bất thường giữa cơ quan quản lý, nhà mạng, nền tảng số và báo chí chính thống nhằm phát hiện sớm các chiến dịch thao túng dư luận, dàn điện thoại ảo (phone farm) hay hành vi kích tương tác giả.

Đồng thời, xử lý triệt để toàn bộ dây chuyền trục lợi đứng sau như SIM/OTP bất hợp pháp, chợ mua bán tài khoản rác, hạ tầng IP trung gian và các bên thuê dịch vụ thao túng.

ai-hay.jpg
Các chuyên gia cho rằng cần phát triển hạ tầng tính toán và giải pháp AI trong nước.

Ông Hiệp cũng cho rằng cần tập trung đầu tư vào hạ tầng tính toán, hệ thống dữ liệu mở công lập và khuyến khích phát triển các giải pháp AI trong nước.

"Điều này giúp giữ nguyên vẹn dữ liệu của người Việt để xử lý tại chỗ, từng bước giảm bớt sự phụ thuộc vào các nền tảng nước ngoài", ông Hiệp nói.

Trước đó, trong thời gian sang thăm và làm việc tại Việt Nam, ông Hervé Le Bars, Trưởng nhóm chuyên gia dự án Hợp tác Chính phủ điện tử Pháp - Việt khuyến nghị Việt Nam nên thành lập Ủy ban quốc gia về đạo đức AI, đồng thời chuyển các nguyên tắc hiện mới mang tính khuyến nghị thành các quy định có tính ràng buộc, trong bối cảnh AI đang được sử dụng ngày càng rộng rãi.

Là một người dùng AI thường xuyên phục vụ công việc, chị Mai Anh (Hà Nội) khuyên người dùng luôn yêu cầu thông tin nguồn thông tin từ nguồn chính thống như trang web của cơ quan quản lý, báo chí chính thống khi đặt câu lệnh cho AI, nhằm giảm nguy cơ bị 'ảo giác' AI.

Cùng chuyên mục

Khi sứ giả hoang dã trở về: Anh 'lâm tặc' thương nàng mũi hếch…

Khi sứ giả hoang dã trở về: Anh 'lâm tặc' thương nàng mũi hếch…

TPO - Một ngày đẹp trời, nhà bảo tồn Chu Xuân Cảnh (quản lý dự án bảo tồn voọc mũi hếch, thuộc Tổ chức Bảo tồn Động thực vật Quốc tế - FFI) rủ tôi đi chụp ảnh 'những cô nàng ăn hoa nghiến thơm' trên đỉnh núi Khau Ca, thuộc VQG Du Già - Cao nguyên đá Đồng Văn, tỉnh Tuyên Quang. Lái xe gần chục tiếng đồng hồ từ Hà Nội, đi bộ thêm 4 tiếng vượt rừng, núi đá, lội qua nhiều con suối nước lạnh nữa mới tới được khu nhà sàn nhỏ của đội bảo vệ voọc mũi hếch thuộc xã Tùng Bá.

Chủ nhân giải thưởng VinFuture giải mã xu hướng tiêm một liều vắc xin HPV: Việt Nam có thể hưởng lợi gì?

Chủ nhân giải thưởng VinFuture giải mã xu hướng tiêm một liều vắc xin HPV: Việt Nam có thể hưởng lợi gì?

TPO - TS Aimée R. Kreimer - Viện Ung thư Quốc gia (Hoa Kỳ) chia sẻ, đã có đủ cơ sở khoa học cho việc chỉ cần tiêm phòng 1 liều vắc xin ngừa HPV, thay vì hai liều như nhiều quốc gia đang áp dụng. Điều này có thể giúp Việt Nam và nhiều nước tiết kiệm được khoản tiền lớn.

Quỹ Vinfuture công bố 8 hoạt động chính tại tuần lễ khoa học công nghệ 2026

Quỹ Vinfuture công bố 8 hoạt động chính tại tuần lễ khoa học công nghệ 2026

Quỹ VinFuture công bố Tuần lễ Khoa học Công nghệ VinFuture 2026 gồm 8 hoạt động chính sẽ diễn ra từ ngày 02 - 08/12/2026. Với chủ đề “Khoa học khai mở – Kiến tạo phồn vinh”, sự kiện quy tụ các nhà khoa học, chuyên gia và lãnh đạo doanh nghiệp công nghệ hàng đầu thế giới cùng trao đổi về những vấn đề có ý nghĩa then chốt đối với tương lai nhân loại, từ trí tuệ nhân tạo (AI), chăm sóc sức khỏe đến công nghệ đại dương và phát triển bền vững.

Cần Thơ triển khai sản xuất giảm phát thải trên 130.000 ha lúa, cây ăn trái và rau màu, hướng tới canh tác bền vững, phát triển tín chỉ carbon và giảm phát thải.

Cần Thơ sẽ có 130.000 ha cây trồng chủ lực sản xuất giảm phát thải

TPO - Cần Thơ hướng đến chuyển đổi trồng trọt theo hướng phát thải thấp, thích ứng với biến đổi khí hậu, nâng cao hiệu quả và cải thiện sinh kế người dân. Tới năm 2035, có 130.000 ha cây trồng chủ lực gồm lúa, cây ăn trái và rau màu sản xuất theo tiêu chuẩn giảm phát thải.

Hồi sinh Tứ giác Long Xuyên theo mô hình thuận thiên

Hồi sinh Tứ giác Long Xuyên theo mô hình thuận thiên

TPO - Sở Nông nghiệp và Môi trường tỉnh An Giang phối hợp cùng Tổ chức quốc tế về bảo tồn thiên nhiên (WWF-Việt Nam) vừa khởi động giai đoạn 2 của dự án Thực hiện các giải pháp dựa vào thiên nhiên tại tỉnh An Giang nhằm khôi phục các vùng đất ngập nước và các quá trình tự nhiên của ĐBSCL (Mekong NbS).

Mô hình kinh tế xanh nuôi 'sâm nước' thu tiền tỷ của dược sĩ 9X

Mô hình kinh tế xanh nuôi 'sâm nước' thu tiền tỷ của dược sĩ 9X

TPO - Bằng việc ứng dụng công nghệ xử lý nước tuần hoàn, giải pháp vi sinh an toàn sinh học, dược sĩ 9X Võ Lê Hoàng Tuấn đã phát triển thành công mô hình nuôi cá chạch lấu – loài thủy sản bản địa được ví như “sâm nước” miền Tây. Mô hình giúp anh làm chủ loài cá nức tiếng "khó tính", mang về doanh thu tiền tỉ mỗi năm, giải bài toán thích ứng biến đổi khí hậu, nâng tầm giá trị nông sản địa phương.