Deloitte Australia sẽ hoàn lại một phần trong tổng số 440.000 đô la Úc (290.000 đô la Mỹ) mà chính phủ Úc đã trả cho một bản báo cáo chứa nhiều lỗi rõ ràng do trí tuệ nhân tạo (AI) tạo ra — bao gồm một trích dẫn giả mạo từ phán quyết của tòa án liên bang và tham chiếu tới các công trình nghiên cứu học thuật không tồn tại.
Bản báo cáo do Deloitte thực hiện cho Bộ Việc làm và Quan hệ Lao động được công bố lần đầu trên trang web của bộ vào tháng 7. Một phiên bản chỉnh sửa được công bố lại hôm thứ Sáu sau khi Chris Rudge, nhà nghiên cứu luật y tế và phúc lợi tại Đại học Sydney, cho biết ông đã cảnh báo giới truyền thông rằng báo cáo “đầy các tài liệu tham khảo bịa đặt.”
Bộ này cho biết trong một tuyên bố hôm thứ Ba rằng Deloitte đã rà soát lại bản báo cáo dài 237 trang và “xác nhận một số chú thích và tài liệu tham khảo là không chính xác.”
“Deloitte đã đồng ý hoàn trả khoản thanh toán cuối cùng theo hợp đồng,” bộ cho biết, và nói rằng số tiền cụ thể sẽ được công bố sau khi hoàn tất việc hoàn trả.
Khi được hỏi về những sai sót trong báo cáo, Deloitte nói với hãng tin Associated Press rằng “vấn đề đã được giải quyết trực tiếp với khách hàng.” Công ty không phản hồi khi được hỏi liệu các lỗi này có phải do AI tạo ra hay không.
Hiện tượng AI tạo ra thông tin sai hoặc tưởng tượng được gọi là “ảo giác” (hallucination).
Bản báo cáo đánh giá việc sử dụng hệ thống phạt tự động trong hệ thống phúc lợi của Úc. Bộ cho biết “nội dung chính của báo cáo vẫn được giữ nguyên và không có thay đổi nào đối với các khuyến nghị.”
Phiên bản chỉnh sửa có thêm một dòng tiết lộ rằng hệ thống ngôn ngữ AI tạo sinh Azure OpenAI đã được sử dụng trong quá trình soạn thảo báo cáo.
Những trích dẫn được gán cho một thẩm phán tòa án liên bang đã bị gỡ bỏ, cùng với các tài liệu tham khảo không có thật được cho là của các chuyên gia trong lĩnh vực luật và kỹ thuật phần mềm.
Rudge cho biết ông đã phát hiện tới 20 lỗi trong phiên bản đầu tiên của báo cáo.
Lỗi đầu tiên khiến ông chú ý là báo cáo sai lầm khi cho rằng giáo sư Lisa Burton Crawford — chuyên ngành luật công và luật hiến pháp tại Đại học Sydney — đã viết một cuốn sách không có thật, với tiêu đề hoàn toàn nằm ngoài lĩnh vực chuyên môn của bà.
“Tôi biết ngay lập tức rằng đó hoặc là sản phẩm của AI ảo giác, hoặc là bí mật được giữ kín nhất thế giới — vì tôi chưa từng nghe nói về cuốn sách đó, và tiêu đề của nó nghe thật nực cười,” Rudge nói.
Ông cho biết các công trình của các đồng nghiệp học thuật của mình đã bị dùng làm “bằng chứng hợp pháp giả tạo”, được trích dẫn mà không hề được đọc qua. Rudge nói thêm rằng việc trích dẫn sai lời thẩm phán là lỗi nghiêm trọng hơn nhiều, nhất là trong một bản báo cáo đóng vai trò như cuộc kiểm toán tuân thủ pháp lý của bộ.
“Họ đã hoàn toàn trích dẫn sai một vụ án rồi bịa ra lời phát biểu của thẩm phán, và tôi nghĩ — khoan đã, đây không chỉ là chuyện sĩ diện học thuật. Đây là việc báo cáo sai luật pháp cho chính phủ Úc trong một tài liệu mà họ dựa vào. Vì vậy tôi thấy cần thiết phải lên tiếng vì sự cẩn trọng,” ông nói.
Thượng nghị sĩ Barbara Pocock, người phát ngôn của Đảng Xanh Úc về khu vực công, cho rằng Deloitte nên hoàn trả toàn bộ 440.000 đô la Úc.
“Deloitte đã lạm dụng AI và sử dụng một cách hết sức sai lầm — trích dẫn sai lời thẩm phán, dùng các tài liệu không tồn tại,” bà Pocock nói với Đài Truyền hình Quốc gia Úc (ABC). “Tôi muốn nói rằng, đó là những lỗi mà một sinh viên năm nhất đại học cũng sẽ bị xử lý nghiêm khắc.”
Khách hàng tại văn phòng Deloitte ở Melbourne. Ảnh: AP
