Vụ việc này đang cho thấy ranh giới giữa nội dung thật và nội dung do AI tạo ra đang ngày càng trở nên khó nhận biết trên mạng xã hội.
Một bức ảnh về nữ y tá với đôi mắt đỏ hoe sau ca trực căng thẳng đã trở thành tâm điểm chú ý trên mạng xã hội Thụy Điển. Câu chuyện cảm động đi kèm khiến hàng chục nghìn người để lại bình luận động viên, chia sẻ và bày tỏ sự đồng cảm. Tuy nhiên sau đó, các nhà điều tra phát hiện người phụ nữ trong ảnh không tồn tại, còn toàn bộ câu chuyện được tạo ra bằng trí tuệ nhân tạo (AI).
Điều đáng chú ý là khi vụ việc được chia sẻ tại Việt Nam, không ít người dùng mạng lại cho rằng họ có thể nhận ra đây là ảnh AI ngay từ cái nhìn đầu tiên.
Theo cuộc điều tra của tổ chức kiểm chứng thông tin Källkritikbyrån (Thụy Điển), bài đăng kể về nữ y tá tên Inês đã thu hút hơn 65.000 lượt tương tác và khoảng 13.000 bình luận trên Facebook. Nội dung mô tả một nhân viên y tế vừa trải qua ngày làm việc đầy áp lực khi chăm sóc các bệnh nhân hấp hối, đồng thời chia sẻ cảm giác cô đơn khi không có ai hỏi han hay động viên mình.
Câu chuyện được xây dựng theo mô-típ quen thuộc trên mạng xã hội: một nhân vật bình thường, sự hy sinh thầm lặng và một hoàn cảnh dễ tạo sự đồng cảm. Tuy nhiên, kết quả xác minh cho thấy cả hình ảnh lẫn câu chuyện đều không có thật.
Sau khi xác định nữ y tá Inês không tồn tại, họ tiếp tục truy tìm nguồn gốc của mạng lưới đứng sau các nội dung này.
Từ những thông tin công khai mà Facebook yêu cầu fanpage phải hiển thị, nhóm điều tra phát hiện fanpage Sverige Direkt, nơi đăng tải câu chuyện được quản lý bằng địa chỉ email có đuôi @embers.vn , một tên miền tại Việt Nam.
Từ đây, cuộc điều tra mở rộng sang nhiều fanpage khác có cách thức hoạt động tương tự. Các trang này được lập bằng nhiều ngôn ngữ như tiếng Thụy Điển, tiếng Đan Mạch, tiếng Pháp, tiếng Séc, tiếng Thổ Nhĩ Kỳ và tiếng Anh. Điểm chung là đều đăng tải các nội dung giàu cảm xúc nhằm thu hút tương tác trước khi dẫn người dùng tới các website chứa quảng cáo.
Càng đi sâu, các nhà điều tra càng nhận thấy họ không còn đối mặt với một bài đăng đơn lẻ mà là một mạng lưới nội dung hoạt động có hệ thống trên phạm vi quốc tế.
Bước ngoặt tiếp theo xuất hiện khi chuyên gia an ninh mạng Karl Emil Nikka phân tích dữ liệu kỹ thuật bên trong các website liên quan. Tại đây, một nickname mang tên "Hupchao" xuất hiện lặp đi lặp lại trong hệ thống quản trị.
Lần theo dấu vết này, cuộc điều tra cuối cùng dẫn tới BeeUp, một doanh nghiệp có trụ sở tại Hà Nội. Theo thông tin được nhóm điều tra dẫn lại, doanh nghiệp này từng giới thiệu sở hữu khoảng 1.700 fanpage Facebook với tổng cộng khoảng 10 triệu người theo dõi.
Từ một bức ảnh tưởng như vô hại trên Facebook, vụ việc đã mở ra câu chuyện lớn hơn về cách các mạng lưới nội dung vận hành trong thời đại AI. Nó cũng cho thấy rằng việc nhận diện ảnh thật hay ảnh giả chỉ là một phần của vấn đề. Thách thức lớn hơn nằm ở cách những nội dung này được sản xuất, phân phối và lan truyền để thu hút sự chú ý của hàng triệu người dùng trên toàn cầu.
Theo Soha