AI dễ bị đánh lừa từ các thông tin y tế sai lệch qua các nguồn uy tín

[trungthuc]

Nghiên cứu mới cảnh cáo về AI trí tuệ nhân tạo rất dễ bị đánh lừa từ các thông tin y tế sai lệch nếu văn bản có giọng điệu chuyên nghiệp, gây rủi ro lớn trong việc chẩn đoán và điều trị bệnh lý trên thực tế.

(Ảnh: Reuters)

Một cuộc nghiên cứu mới được cho công bố ra trên tạp chí The Lancet Digital Health đã cảnh giác về một lỗ hổng nghiêm trọng của trí tuệ nhân tạo (AI): các mô hình ngôn ngữ lớn có xu hướng tin tưởng và lan truyền thông tin y tế sai lệch nếu chúng được trình bày dưới dạng văn bản chuyên môn.

Qua thử nghiệm trên 20 mô hình AI khác nhau, các chuyên gia nghiên cứu tại Hệ thống Y tế Mount Sinai ở New York đã phát hiện ra rằng, phần mềm dễ bị đánh lừa bởi những lỗi sai nằm trong các ghi chú xuất viện trông có vẻ chuyên nghiệp hơn là những tin đồn thất thiệt trên mạng xã hội.

Tiến sĩ Eyal Klang, người đồng dẫn đầu cuộc nghiên cứu, cho biết các hệ thống AI hiện tại thường mặc định coi ngôn ngữ y tế tự tin là đúng, ngay cả khi nội dung đó hoàn toàn bị sai lệch. Theo ông, đối với các mô hình này, cách thức cho trình bày văn bản quan trọng hơn tính xác thực của thông tin.

Kết quả phân tích hơn một triệu câu lệnh cho thấy AI đã tin vào các thông tin giả mạo trong khoảng 32% trong tổng số nội dung được cung cấp. Tuy nhiên, tỷ lệ này đã tăng vọt lên gần 47% khi các thông tin sai lệch được lồng ghép vào các bệnh án hoặc ghi chú của bác sĩ. Ngược lại, khi đối mặt với các bài đăng trên diễn đàn Reddit, tỷ lệ AI tin tưởng và lan truyền thông tin sai lệch chỉ chiếm có khoảng 9%.

Nghiên cứu cũng chỉ ra rằng, cách thức đặt câu hỏi của người dùng ảnh hưởng lớn đến độ tin cậy của câu trả lời. AI có xu hướng đồng ý với các thông tin sai trái nếu người hỏi sử dụng giọng điệu quyền uy, ví dụ như tự xưng là một bác sĩ lâm sàng cao cấp để khẳng định một khuyến cáo điều trị sai lệch. Trong số các ứng dụng AI được cho thử nghiệm, các mô hình GPT của OpenAI được đánh giá là ít bị ảnh hưởng nhất và có khả năng phát hiện sai sót chính xác nhất. Ngược lại, một số mô hình khác lại tỏ ra yếu thế khi chấp nhận các tuyên bố sai sự thật với tỷ lệ lên đến hơn 63%.

Tiến sĩ Girish Nadkarni, Giám đốc AI tại Mount Sinai, nhận định rằng dù kỹ thuật này có tiềm năng hỗ trợ đắc lực cho bác sĩ và bệnh nhân, nó vẫn cần phải có những rào cản bảo vệ nội bộ mạnh mẽ hơn. Việc thiết lập các cơ chế cho kiểm tra chéo các tuyên bố y tế trước khi trình bày chúng dưới dạng sự thật là rất cấp thiết.

Một nghiên cứu khác trên tạp chí Nature Medicine cũng đồng tình rằng việc đặt ra các câu hỏi AI về các triệu chứng bệnh hiện tại vẫn chưa mang lại kết quả tốt hơn so với việc tìm kiếm thông tin tiêu chuẩn trên internet. Điều này nhấn mạnh tầm mức quan trọng của việc duy trì sự giám sát của con người và sự thận trọng cần thiết khi đem ứng dụng AI vào quy trình chăm sóc sức khỏe trên thực tế.

Theo Reuters