Một thẩm phán cấp cao tại Anh đã đưa ra lời chỉ trích hiếm thấy nhằm vào Bộ Nội vụ nước này sau khi phát hiện cơ quan này có thể đã dựa vào một tài liệu bị ảo giác AI để từ chối đơn xin tị nạn của một phụ nữ Morocco.
Thẩm phán nhận định các dấu hiệu cho thấy văn bản từ chối có thể được tạo ra bằng trí tuệ nhân tạo (AI) và chứa "ảo giác AI" (AI hallucination), hiện tượng AI tự tạo ra thông tin sai nhưng trình bày như sự thật. Vụ việc làm dấy lên lo ngại về việc ứng dụng AI trong những quyết định pháp lí có thể ảnh hưởng trực tiếp đến sinh mạng con người.
Thẩm phán nghi Bộ Nội vụ Anh bị ảo giác AI khi bác đơn xin tị nạn. Ảnh: AI
Bị từ chối tị nạn vì một tài liệu nghi bị ảo giác AI mà chính Bộ Nội vụ cũng không tìm thấy
Vụ việc liên quan đến một phụ nữ Morocco cùng con nhỏ chạy trốn khỏi quê hương sau khi bị ép kết hôn từ khi chưa đủ tuổi, nhiều lần hứng chịu bạo lực nghiêm trọng, trong đó có cưỡng hiếp. Người phụ nữ cho biết bà buộc phải rời khỏi Morocco vì lo sợ sẽ bị người chồng, một tội phạm có thế lực và từng có tiền án, sát hại nếu quay trở về.
Tuy nhiên, Bộ Nội vụ Anh đã bác đơn xin tị nạn với lập luận rằng Morocco vẫn là quốc gia an toàn đối với trường hợp của bà. Để chứng minh nhận định này, cơ quan chức năng viện dẫn một tài liệu có tên Country Policy Information Note (CPIN), được xem là nguồn tham khảo chính thức và có giá trị đối với các thẩm phán khi xét xử các vụ việc về nhập cư và tị nạn.
Quyết định từ chối sau đó được một tòa án nhập cư cấp sơ thẩm chấp nhận, cũng dựa trên tài liệu nói trên. Song khi người phụ nữ tiếp tục kháng cáo lên Tòa Thượng thẩm (Upper Tribunal), thẩm phán phụ trách vụ án bắt đầu đặt câu hỏi về sự tồn tại của tài liệu này. Sau quá trình xác minh, ông cho biết không có bất kỳ dấu vết nào cho thấy bản CPIN về Morocco phát hành tháng 7/2021 từng tồn tại.
Theo phán quyết ban hành ngày 14/7, thẩm phán khẳng định: "Dường như chưa bao giờ có một tài liệu CPIN như vậy". Ông cho biết đã tìm kiếm trên các nguồn công khai nhưng không phát hiện tài liệu, đồng thời chính bộ phận phụ trách thông tin quốc gia của Bộ Nội vụ cũng không thể xác nhận sự tồn tại của văn bản mà cơ quan này từng viện dẫn.
Không dừng lại ở đó, thẩm phán còn nhận thấy văn bản từ chối đơn xin tị nạn mang nhiều đặc điểm giống nội dung được tạo ra bởi trí tuệ nhân tạo. Theo ông, rất có thể việc dẫn chiếu tới bản CPIN Morocco tháng 7.2021 là kết quả của hiện tượng "AI hallucination", khi AI tự tạo ra nguồn tài liệu không có thật nhưng vẫn trình bày như một trích dẫn hợp pháp.
"Nếu đúng như vậy thì đây sẽ là một sai sót cực kì nghiêm trọng của Bộ Nội vụ", thẩm phán nhấn mạnh. Ông cũng so sánh việc sử dụng một tài liệu không tồn tại với hành vi dựa vào "chứng cứ giả", đồng thời kết luận đây là một sai phạm nghiêm trọng trong thủ tục tố tụng.
Cảnh báo mới về rủi ro AI trong hoạt động công quyền và tư pháp
Sau khi vụ việc được báo chí Anh đặt câu hỏi, Bộ Nội vụ ban đầu gửi đường dẫn đến kho lưu trữ nhưng vẫn không thể tìm thấy bản CPIN được viện dẫn. Sau đó, cơ quan này lại chuyển sang cung cấp một tài liệu khác có tên Country Information Note (CIN).
Đây là tài liệu hướng dẫn nội bộ chưa từng được công bố rộng rãi và khác hoàn toàn với CPIN, loại văn bản vốn được các tòa án coi là nguồn tham khảo chính thức. Điều đáng chú ý là tài liệu CIN này cũng không hề kết luận Morocco là nơi an toàn để cưỡng chế hồi hương những phụ nữ có hoàn cảnh như nguyên đơn.
Ngược lại, nội dung tài liệu còn phản ánh nhiều vấn đề đáng lo ngại. Theo đó, riêng năm 2018, Morocco đã chấp thuận khoảng 40.000 trường hợp kết hôn trẻ em theo diện ngoại lệ, chiếm khoảng 20% tổng số cuộc hôn nhân trong năm. Bên cạnh đó, luật pháp nước này không quy định rõ hành vi cưỡng hiếp trong hôn nhân là tội phạm.
Thậm chí, những phụ nữ tố cáo bị chồng cưỡng hiếp còn có nguy cơ bị truy cứu trách nhiệm vì quan hệ tình dục ngoài hôn nhân nếu cơ quan chức năng không tin lời khai của họ. Những thông tin này hoàn toàn trái ngược với lập luận cho rằng Morocco đủ an toàn để người phụ nữ trở về.
Vụ việc đã làm nổi bật một trong những rủi ro lớn nhất của AI tạo sinh trong lĩnh vực pháp lí. Các mô hình ngôn ngữ có thể tạo ra những văn bản trôi chảy, đầy đủ trích dẫn nhưng đôi khi lại "bịa" ra tài liệu, án lệ hoặc nguồn tham khảo không tồn tại. Hiện tượng này từng xuất hiện tại nhiều quốc gia, trong đó có các vụ luật sư sử dụng AI để soạn hồ sơ và vô tình nộp lên tòa những bản án giả do AI tự tạo.
Nếu các tài liệu này không được kiểm chứng cẩn thận, hậu quả có thể rất nghiêm trọng, đặc biệt trong những lĩnh vực liên quan trực tiếp đến quyền con người như tị nạn, nhập cư hay xét xử hình sự.
Về phía Bộ Nội vụ Anh, người phát ngôn khẳng định hệ thống xét duyệt tị nạn vẫn được rà soát thường xuyên và mọi hồ sơ đều được xem xét dựa trên bằng chứng mới nhất cũng như hoàn cảnh cụ thể của từng trường hợp. Cơ quan này cũng cho biết đã cung cấp thêm các thông tin mà thẩm phán yêu cầu trong quá trình xem xét vụ án.
Hiện vụ kiện của người phụ nữ Morocco vẫn đang được tiếp tục giải quyết. Tuy nhiên, những nghi vấn xung quanh "ảo giác AI" trong một quyết định hành chính đã trở thành lời cảnh báo mạnh mẽ về việc các cơ quan công quyền cần xây dựng cơ chế kiểm chứng chặt chẽ trước khi sử dụng AI trong những quyết định có thể ảnh hưởng đến tự do, quyền lợi và thậm chí tính mạng của con người.
Theo 1thegioi