Một công ty Big4 bị phát hiện dùng AI để làm báo cáo tư vấn cho hợp đồng trị giá hơn 1 triệu USD

[therealrtz]

Báo cáo y tế do Deloitte thực hiện theo đặt hàng của chính phủ Canada, tiêu tốn gần 1,6 triệu CAD (khoảng 1,1 triệu USD) của một bang, bị phát hiện có lỗi có khả năng do AI tạo ra. Sự việc này đánh dấu đây là quốc gia thứ hai trong năm nay cáo buộc hãng tư vấn nằm trong Big4 kiểm toán này yếu kém trong khâu kiểm chứng.

Những sai sót kể trên do tờ The Independent điều tra và công bố hôm thứ bảy tuần trước xuất hiện trong một báo cáo dài 526 trang được chính quyền một bang phổ biến hồi tháng 5.

Tài liệu này tư vấn cho Sở Y tế & Dịch vụ Cộng đồng về các chủ đề như chăm sóc từ xa, chính sách giữ chân nhân lực và tác động của đại dịch COVID-19 tới nhân viên y tế, trong bối cảnh bang đang thiếu y tá và bác sĩ.

Theo The Independent, báo cáo của Deloitte chứa các trích dẫn sai: Viện dẫn những bài báo học thuật bịa đặt để rút ra kết luận trong các phân tích hiệu quả chi phí; gán tên các nhà nghiên cứu có thật vào những công trình họ chưa từng tham gia; thậm chí “sáng tác” các bài báo đồng tác giả giữa những người chưa từng làm việc chung.

Về phần mình, người phát ngôn Deloitte Canada nói với Fortune:“Deloitte Canada kiên quyết bảo vệ các khuyến nghị trong báo cáo. Chúng tôi đang tiến hành chỉnh sửa một số ít lỗi trích dẫn, không ảnh hưởng đến kết luận. AI không được dùng để viết báo cáo, AI chỉ được sử dụng có chọn lọc để hỗ trợ một số trích dẫn nghiên cứu”.

Bản thuyết trình dài cũng dẫn một bài trên Canadian Journal of Respiratory Therapy, nhưng tra cứu trong cơ sở dữ liệu của tạp chí lại không thấy.

“Nếu những chuyện như vậy xuất hiện, rất có thể họ đã dựa khá nặng vào AI để tạo nội dung”, Giáo sư kiêm Giám đốc nghiên cứu điều dưỡng Gail Tomblin Murphy (ĐH Dalhousie, Nova Scotia) nói với The Independent. Bà bị Deloitte trích dẫn trong một “bài báo” mà… không hề tồn tại. Bà cho biết mình chỉ từng cộng tác với 3 trong số 6 đồng tác giả còn lại được nêu trong trích dẫn sai.

“Và rõ ràng điều này có rất nhiều vấn đề. Chúng ta phải hết sức cẩn trọng để bằng chứng dùng làm cơ sở cho các báo cáo là bằng chứng tốt nhất, đã được thẩm định. Vì rốt cuộc, những báo cáo này không chỉ vì chúng tiêu tốn tiền thuế mà còn bởi chúng phải chính xác, dựa trên bằng chứng và hữu ích để thúc đẩy hệ thống tiến lên”.

Tính đến thứ hai, báo cáo vẫn còn trên website của chính quyền bang.

Theo hồ sơ công khai qua yêu cầu tiếp cận thông tin được đăng trên blog tuần trước, chính quyền Canada đã chi gần 1,6 triệu CAD cho báo cáo này, thanh toán làm 8 đợt.

Tony Wakeham, lãnh đạo Đảng Bảo thủ Cấp tiến tại bang và là tân thủ hiến mới nhậm chức hồi cuối tháng 10. Văn phòng Thủ hiến Newfoundland & Labrador và Sở Y tế & Dịch vụ Cộng đồng của tỉnh chưa phản hồi yêu cầu bình luận của Fortune về báo cáo tháng 5 và cũng chưa công khai đề cập vụ việc.

Tiết lộ này xuất hiện sau thông tin tháng trước rằng Deloitte đã dùng AI trong một báo cáo trị giá 290.000 AUD công bố tháng 7 để hỗ trợ chính phủ Australia siết gian lận phúc lợi. Tuy nhiên, một nhà nghiên cứu đã phát hiện hiện tượng “ảo” trong bản nghiên cứu 237 trang này, bao gồm trích dẫn các bài nghiên cứu không tồn tại và một câu trích dẫn bịa từ phán quyết tòa liên bang.

Trong bản sửa đổi, âm thầm được tải lên website chính phủ Australia, phía hãng tư vấn thừa nhận đã dùng hệ thống ngôn ngữ sinh generative AI Azure OpenAI để hỗ trợ soạn thảo.

“Những cập nhật này tuyệt đối không ảnh hưởng tới nội dung cốt lõi, phát hiện và khuyến nghị của báo cáo”, Deloitte viết trong phần cập nhật.

Tại Australia, Deloitte đã phải hoàn trả một phần kinh phí cho báo cáo. Hiện chưa có thông tin công khai về khả năng hoàn tiền đối với báo cáo tại Canada.

Theo: Fortune