Hơn 140 người kiểm duyệt nội dung trên Facebook đã được chẩn đoán mắc chứng PTSD (rối loạn căng thẳng sau sang chấn) nghiêm trọng do tiếp xúc với nội dung nguy hiểm bao gồm cảnh giết người, tự tử, lạm dụng tình dục trẻ em và khủng bố. Nhân viên kiểm duyệt làm việc từ 8 đến 10 giờ một ngày tại văn phòng ở Kenya, nơi ký kết hợp đồng với công ty mẹ Meta của ứng dụng Facebook. Theo bác sĩ Ian Kanyanya, giám đốc dịch vụ sức khỏe tâm thần tại bệnh viện quốc gia Kenyatta, các nhân viên bị chẩn đoán mắc PTSD, rối loạn lo âu tổng quát (GAD) và rối loạn trầm cảm nặng (MDD). Các chẩn đoán này được đưa ra làm bằng chứng trong vụ kiện Meta và Samasource Kenya, công ty thực hiện kiểm duyệt nội dung cho Meta bằng cách tuyển dụng nhân viên từ khắp Châu Phi.
Vụ việc đang làm sáng tỏ cái giá con người phải trả cho sự bùng nổ mạng xã hội trong những năm gần đây. Nhu cầu kiểm duyệt ngày càng tăng cao, thường được đảm nhiệm bởi những đất nước nghèo nhất thế giới, để bảo vệ người dùng khỏi nội dung gây hại. Hồ sơ kiện cho biết, các hình ảnh và video bạo lực, đồi trụy khiến một số người kiểm duyệt ngất xỉu, nôn mửa, la hét và chạy khỏi bàn làm việc.
Ít nhất 40 người kiểm duyệt trong vụ việc đã lạm dụng rượu, ma túy bao gồm cần sa, cocaine và amphetamine và thuốc ngủ. Một số người báo cáo hôn nhân đổ vỡ và ham muốn tình dục giảm sút, đồng thời mất kết nối với gia đình. Một số người chịu trách nhiệm xóa video do các nhóm khủng bố và phiến quân tải lên lo sợ rằng họ đang bị theo dõi và nếu trở về nhà, họ sẽ bị ám sát.
Facebook và các công ty truyền thông xã hội lớn khác dựa vào đội ngũ kiểm duyệt nội dung để xóa các bài đăng vi phạm tiêu chuẩn cộng đồng của họ, cũng như đào tạo các hệ thống AI. Các kiểm duyệt viên từ Kenya và các quốc gia châu Phi khác được giao nhiệm vụ từ năm 2019 đến năm 2023 là kiểm tra các bài đăng từ châu Phi, nhưng theo các tài liệu khiếu nại, họ được trả lương ít hơn tám lần so với các đồng nghiệp của họ ở Mỹ.
Các báo cáo y tế được nộp lên tòa án lao động và việc làm ở thủ đô Nairobi vẽ nên bức tranh kinh hoàng về môi trường làm việc bên trong cơ sở hợp tác với Meta, nơi các nhân viên theo dõi và kiểm tra hình ảnh liên tục trong một không gian lạnh lẽo như nhà kho, với mọi hoạt động làm việc của họ được theo dõi đến từng phút.
Gần 190 người kiểm duyệt đưa ra khiếu nại bao gồm cáo buộc cố ý gây tổn hại về tinh thần, tuyển dụng không công bằng, buôn người, chế độ nô lệ hiện đại và sa thải bất hợp pháp. Tất cả 144 người được bác sĩ Kanyanya kiểm tra đều mắc PTSD, GAD và MDD với các triệu chứng PTSD nghiêm trọng hoặc cực kỳ nghiêm trọng trong 81% trường hợp, chủ yếu một năm sau khi họ bỏ việc.
Bà Martha Dark, nhà sáng lập và đồng giám đốc điều hành của Foxglove, một tổ chức phi lợi nhuận có trụ sở tại Anh lên tiếng ủng hộ vụ kiện. “Bằng chứng không thể chối cãi: việc kiểm duyệt Facebook là công việc nguy hiểm gây ra PTSD suốt đời cho hầu hết những người tham gia”, bà nói.
“Ở Kenya, nó đã gây chấn thương cho 100% trong số hàng trăm cựu nhân viên kiểm duyệt đi xét nghiệm. Trong bất kỳ ngành nào khác, nếu chúng tôi phát hiện ra 100% nhân viên an ninh được chẩn đoán mắc bệnh do công việc của họ gây ra, những người chịu trách nhiệm sẽ buộc phải từ chức và đối mặt với hậu quả pháp lý vì vi phạm hàng loạt quyền con người. Đó là lý do tại sao Foxglove đang hỗ trợ những người lao động dũng cảm này tìm được công lý từ tòa án”.
Theo hồ sơ trong vụ kiện ở Nairobi, ông Kanyanya kết luận rằng, nguyên nhân chính gây ra bệnh tâm lý ở 144 người là vì họ “phải theo dõi nội dung cực kỳ đồi trụy hàng ngày, bao gồm các video về vụ giết người ghê rợn, tự làm hại bản thân, tự tử, lạm dụng tình dục, nội dung khiêu dâm, ấu dâm, bạo lực khủng khiếp”.
Kiểm duyệt và gắn thẻ nội dung thường là những mặt tối của công nghệ. Người lao động được thuê ngoài thường làm công việc tương tự nhưng ít gây hại hơn, đó là gắn thẻ hình ảnh về những thứ tầm thường như đồ nội thất, đường phố, phòng khách và cảnh đường phố để rèn luyện các hệ thống AI được thiết kế tại California (Mỹ).
Meta cho biết, họ rất coi trọng những người kiểm duyệt nội dung. Hợp đồng với nhân viên kiểm duyệt bên thứ ba trên Facebook và Instagram nêu chi tiết về dịch vụ tư vấn, đào tạo và hỗ trợ suốt ngày đêm cũng như quyền truy cập vào dịch vụ chăm sóc sức khỏe tư nhân. Theo Meta, mức lương có cao hơn tiêu chuẩn của ngành và họ đã sử dụng các kỹ thuật như làm mờ, tắt tiếng và hiển thị đơn sắc để hạn chế tiếp xúc với nội dung độc hại cho những kiểm duyệt viên trên hai nền tảng này. Meta và Samasource từ chối bình luận về các khiếu nại.