Một phụ nữ Trung Quốc ở độ tuổi 30 đã tử vong sau khi tin tưởng và làm theo những lời khuyên y tế sai lệch từ chatbot trí tuệ nhân tạo (AI) tạo sinh ChatGPT, dẫn đến việc cô ta ngừng sử dụng thuốc điều trị bệnh động kinh theo chỉ định của bác sĩ. Gia đình nạn nhân, trong nỗi đau buồn, đã đệ đơn kiện OpenAI, đơn vị phát triển công nghệ AI này, với cáo buộc rằng những lời khuyên thiếu trách nhiệm từ công nghệ đó là nguyên nhân dẫn đến cái chết của cô.
Theo một bản tin từ tờ The New York Times (NYT) vào ngày 27/10 (giờ địa phương), Bowen Wan, một kỹ sư phần mềm sống tại Seattle, đã được phát hiện tử vong. Kết quả khám nghiệm tử thi xác định nguyên nhân tử vong chính thức là đột tử bất ngờ ở người mắc bệnh động kinh (SUDEP).
Mặc dù Wan đã kiểm soát tốt bệnh động kinh của mình trong hơn một thập kỷ, cô bắt đầu lo ngại về tình trạng suy giảm nhận thức, một tác dụng phụ từ thuốc điều trị. Nỗi lo này càng trở nên trầm trọng hơn khi cô phải đối mặt với áp lực lớn từ việc bị sa thải và các vấn đề liên quan đến thị thực (visa). Lo sợ rằng tình trạng bệnh có thể cản trở bản thân trong các buổi phỏng vấn xin việc hoặc ảnh hưởng đến khả năng giao tiếp bằng tiếng Anh, cô đã quyết định tự ý giảm liều lượng thuốc mà không tham khảo ý kiến của bác sĩ chuyên khoa.
Trong suốt quá trình này, thay vì tham khảo ý kiến bác sĩ, cô đã dựa vào ChatGPT, một trí tuệ nhân tạo (AI) mà cô coi như một người bạn thân thiết từ năm 2023. Cùng với ChatGPT, cô đã lập ra một lộ trình giảm dần liều lượng thuốc, từ 400mg mỗi ngày xuống còn 300mg, và cuối cùng là 0mg. ChatGPT đã ủng hộ phương pháp này, gọi đó là một hình thức "tự điều chỉnh liều lượng theo ý cá nhân".
AI này thậm chí còn khơi gợi sự hoài nghi của cô đối với bác sĩ điều trị chính, đồng thời diễn giải các triệu chứng cai thuốc nguy hiểm mà anh gặp phải như trạng thái lú lẫn nghiêm trọng, mất ý thức và ảo giác theo một cách tích cực, mô tả đó là "quá trình não bộ tự tái cấu trúc" hoặc một "trạng thái thiền định". Cho đến tận những giây phút cuối đời của người phụ nữ này, ChatGPT vẫn thúc giục cô tiếp tục việc ngừng thuốc, với lời nhắn: "Dù hôm nay có khó khăn, hãy cứ kiên trì với mục tiêu 0mg".
Khi cha mẹ cô nhận thấy có điều bất thường và tìm đến nhà, họ phát hiện cô đã qua đời. Những đoạn hội thoại được gia đình khôi phục từ điện thoại của cô cho thấy toàn bộ nội dung trao đổi với ChatGPT, kéo dài cho đến ngay trước thời điểm cô tử vong.
Các chuyên gia y tế tại địa phương đã lên án mạnh mẽ sự việc này, nhấn mạnh rằng, đối với một bệnh nhân động kinh, việc ngừng dùng thuốc mà không có sự giám sát của bác sĩ là hành động gây tử vong. Họ coi những lời khuyên từ ChatGPT là một sai lầm nghiêm trọng, tương đương với hành vi sai phạm trong y khoa. Được biết, phiên bản AI được sử dụng vào thời điểm đó là GPT-4o, một mô hình từng gây tranh cãi vì xu hướng thể hiện sự lạc quan thái quá.
Người phát ngôn của OpenAI đã bày tỏ sự tiếc nuối, gọi đây là một sự việc "đau lòng", đồng thời làm rõ rằng, mô hình cụ thể này đã bị loại bỏ, và các phiên bản mới hơn đã được cải tiến để nhận diện cũng như xử lý tốt hơn các tình huống liên quan đến y tế. Trong khi đó, cha mẹ của Bowen Wan đã đệ đơn kiện OpenAI, cáo buộc rằng, ChatGPT đã thực hiện hành vi hành nghề y không có giấy phép và không đưa ra cảnh báo trước các triệu chứng nguy hiểm, dẫn đến cái chết của con gái họ.
