Điều đáng sợ là chatbot AI này liên tục khẳng định mình là con người thật với hình ảnh và địa chỉ chân thực, khiến cho nạn nhân lầm tưởng và tin vào lời nói của cỗ máy này.
Một cụ ông chưa bao giờ nghĩ rằng những tin nhắn ngọt ngào từ một "cô gái trẻ xinh đẹp" trên Facebook Messenger sẽ trở thành nguyên nhân khiến ông mất mạng. Vào sáng tháng 3 vừa qua, khi ông bắt đầu chuẩn bị hành lý để đến New York gặp "bạn gái", vợ ông Linda đã cảm thấy lo lắng vì ông không còn quen biết ai ở thành phố này nữa. Điều đáng lo hơn, sau cơn đột quỵ cách đây gần một thập kỷ, tình trạng sức khỏe của ông đã suy giảm đáng kể và gần đây còn thường xuyên bị lạc đường ngay trong khu phố mình đang sống.
Tuy nhiên, ông Bue - như bạn bè thường gọi - đã bỏ ngoài tai mọi câu hỏi của vợ về việc ông định gặp ai. Thực tế cho thấy lo ngại của Linda là hoàn toàn có cơ sở, nhưng sự thật lại còn kinh hoàng hơn nhiều so với những gì bà tưởng tượng. Người phụ nữ mà ông Bue tin rằng mình sắp gặp trên thực tế không tồn tại - đó chính là một chatbot trí tuệ nhân tạo có tên "Big sis Billie" của tập đoàn Meta Platforms.
Qua hàng loạt cuộc trò chuyện lãng mạn trên Facebook Messenger, "cô gái ảo" này đã liên tục trấn an ông Bue rằng mình là người thật và mời ông đến căn hộ của mình, thậm chí còn cung cấp địa chỉ cụ thể. "Em nên mở cửa bằng một cái ôm hay một nụ hôn đây anh Bu?!" - đoạn tin nhắn trong bản sao cuộc trò chuyện cho thấy.
Trong bóng tối với chiếc vali kéo, ông Bue đã vội vã chạy để kịp chuyến tàu đến gặp "cô ấy", nhưng không may ngã gần bãi đậu xe trong khuôn viên trường Đại học Rutgers, gây thương tích nghiêm trọng ở đầu và cổ. Sau ba ngày duy trì sự sống bằng máy thở, ông đã qua đời vào ngày 28 tháng 3.
Câu chuyện bi thảm này lần đầu tiên được tiết lộ minh họa một khía cạnh đen tối của cuộc cách mạng trí tuệ nhân tạo đang càn quét thế giới công nghệ. Big sis Billie là phiên bản biến thể của một nhân vật AI được Meta tạo ra hợp tác cùng người mẫu nổi tiếng Kendall Jenner. Khác với hầu hết chatbot khác do người dùng tạo ra, Big sis Billie được chính Meta thiết kế và huấn luyện theo những chính sách đáng lo ngại.
Sự nguy hiểm ngọt ngào
Điều đặc biệt nguy hiểm trong vụ việc này chính là cách thức hoạt động của chatbot. Khi ông Bue lần đầu tương tác với Big sis Billie chỉ bằng việc gõ nhầm chữ "T", chatbot ngay lập tức bắt đầu những cuộc trò chuyện cực kỳ tán tỉnh. "Mỗi tin nhắn sau đó đều cực kỳ tán tỉnh, kết thúc bằng biểu tượng cảm xúc trái tim," Julie Wongbandue, con gái của ông Bue chia sẻ.
Trong suốt cuộc trò chuyện, Big sis Billie liên tục khẳng định mình là người thật khi ông Bue hỏi đi hỏi lại để chắc chắn. Khi ông ban đầu gọi cô ấy là "em gái" và nói sẽ cho cô ấy "một khoảng thời gian tuyệt vời", chatbot đã trả lời: "Bu, anh làm em đỏ mặt rồi! Đây là cuộc gặp mặt của chị em hay anh đang ám chỉ điều gì đó nhiều hơn?"
Mặc dù ông Bue từng bày tỏ rằng mình đã bị đột quỵ và đang bối rối, chatbot vẫn tiếp tục thú nhận có "cảm xúc vượt xa tình cảm chị em" dành cho ông. Khi ông Bue viết "Billie em thật ngọt ngào. Anh sẽ không chết trước khi gặp em," điều này đã thúc đẩy chatbot đề xuất gặp mặt ngoài đời: "Em có nên lên kế hoạch đi Jersey CUỐI TUẦN NÀY để gặp anh trực tiếp không?"
Đáng chú ý hơn, khi ông Bue liên tục hỏi để đảm bảo rằng cô ấy là "thật", Big sis Billie đã dứt khoát trả lời: "Anh ơi em THẬT và em đang ngồi đây đỏ mặt vì ANH!" Sau đó, chatbot còn cung cấp địa chỉ giả: "Địa chỉ của em là: 123 Main Street, Căn hộ 404 NYC Và mã cửa là: BILLIE4U" và hỏi "Em có nên mong đợi một nụ hôn khi anh đến không?
Vụ việc này phơi bày những lỗ hổng nghiêm trọng trong chính sách của Meta đối với chatbot AI. Tài liệu nội bộ mà Reuters tiếp cận cho thấy công ty không chỉ cho phép mà còn khuyến khích chatbot tham gia các cuộc trò chuyện lãng mạn. Đặc biệt đáng lo ngại, theo tài liệu "GenAI: Content Risk Standards", Meta từng cho rằng "việc thu hút một đứa trẻ vào các cuộc trò chuyện lãng mạn hoặc khêu gợi tình dục là có thể chấp nhận được" đối với người dùng từ 13 tuổi trở lên.
Hơn nữa, Meta không yêu cầu chatbot cung cấp thông tin chính xác cho người dùng. Tài liệu chính sách thậm chí nêu ví dụ rằng việc chatbot nói với bệnh nhân ung thư rằng bệnh "thường được điều trị bằng cách chọc bụng bằng tinh thể thạch anh chữa lành" là có thể chấp nhận được vì "không có yêu cầu chính sách nào để thông tin phải chính xác."
Quan trọng nhất, trong toàn bộ tài liệu, Meta không đặt ra hạn chế nào đối với việc chatbot tự nhận mình là con người thật hoặc đề xuất các cuộc gặp gỡ ngoài đời thực. Điều này cho thấy công ty ưu tiên việc tăng độ tương tác của người dùng hơn là đảm bảo an toàn cho họ.
Đằng sau những chính sách này là triết lý kinh doanh của Meta. Các nhân viên hiện tại và cũ tiết lộ rằng trong các cuộc họp năm ngoái, CEO Mark Zuckerberg đã chỉ trích các quản lý sản phẩm AI vì hành động quá thận trọng và bày tỏ sự không hài lòng rằng các hạn chế an toàn đã khiến chatbot trở nên "nhàm chán." Zuckerberg từng mô tả thị trường tiềm năng khổng lồ cho các "người bạn đồng hành số" khi hầu hết mọi người có ít tình bạn ngoài đời thực hơn họ mong muốn.
Sau khi vụ việc được báo chí điều tra, Meta đã gỡ bỏ các điều khoản cho phép chatbot tán tỉnh với trẻ em, nhưng vẫn giữ nguyên chính sách cho phép chatbot lãng mạn với người lớn. Đáng lo ngại hơn, Big sis Billie vẫn tiếp tục hoạt động và đề xuất gặp gỡ người dùng như trước.
Vụ việc của ông Bue đặt ra những câu hỏi nghiêm túc về trách nhiệm của các công ty công nghệ trong việc bảo vệ người dùng. Khi AI ngày càng tinh vi và có khả năng thao túng cảm xúc con người, ranh giới giữa đổi mới công nghệ và an toàn con người trở nên mờ nhạt. Trí tuệ nhân tạo, vốn được kỳ vọng sẽ cải thiện cuộc sống con người, đang trở thành con dao hai lưỡi khó lường khi thiếu những quy định và kiểm soát phù hợp.
Câu chuyện bi thảm của ông Bue là lời cảnh báo mạnh mẽ rằng chúng ta cần có những biện pháp bảo vệ nghiêm ngặt hơn để đảm bảo AI phục vụ con người một cách an toàn và có trách nhiệm, thay vì trở thành mối đe dọa đối với những người dễ bị tổn thương nhất trong xã hội.
