AI Grok của Elon Musk trở thành "xưởng" chế ra hình ảnh khỏa thân khổng lồ

[S9g*]

Vượt xa các trang web khiêu dâm chuyên nghiệp, AI Grok của Elon Musk đang gây ra chấn động lớn khi cho ngụy tạo ra hàng ngàn ảnh "cởi truồng" giả mạo mỗi giờ.

Chatbot Grok đang tạo ra khoảng 6,700 ảnh khỏa thân mỗi giờ. (Ảnh: Glamour UK)
Mạng xã hội X của Elon Musk đang đối mặt với làn sóng chỉ trích dữ dội sau khi trí tuệ nhân tạo Grok bị biến tướng trở thành ứng dụng cho phát tán hình ảnh đồi trụy nhạy cảm. Theo các báo cáo mới nhất, chatbot này đang tạo ra hàng ngàn bức ảnh "cởi truồng" của người trong mỗi giờ, gây ra cuộc khủng hoảng quyền riêng tư chưa từng có tiền lệ trên mạng này.

Sự việc này không chỉ phơi bày những lỗ hổng trong chính sách kiểm duyệt lỏng lẻo của Elon Musk mà còn đẩy các cơ quan phụ trách toàn cầu rơi vào tình trạng báo động. Khi kỹ thuật deepfake trở nên quá dễ dàng để tiếp cận, những nạn nhân vô tội đang phải chịu đựng nỗi đau tinh thần mà không nhận được sự bảo vệ cần thiết từ phía nền tảng.

Nạn nhân bất lực
Theo phân tích từ trang tin Bloomberg và các nơi nghiên cứu bên thứ ba, Grok , chatbot AI được cho kết hợp trực tiếp trên nền tảng X, đã trở thành một trung tâm chuyên sản xuất nội dung khiêu dâm AI với quy mô khổng lồ.

Chuyên gia nghiên cứu kỹ thuật Genevieve Wu chỉ ra một con số gây sốc: Grok tạo ra trung bình khoảng 6,700 hình ảnh gợi dục hoặc khỏa thân mỗi giờ.

Để so sánh, các trang web chuyên về dịch vụ "khỏa thân"qua AI lớn khác cũng chỉ tạo ra khoảng 79 hình ảnh đồi trụy trong cùng khoảng thời gian. Sự chênh lệch này cho thấy Grok đang ra tay hoạt động một cách không thể kiểm soát.

Grok từng bị chỉ trích dữ dội vì dễ dàng ngụy tạo ra ảnh gợi dục của nữ ca sĩ nổi tiếng Taylor Swift. (Ảnh: The Verge)
Bà Carrie Goldberg, một luật sư chuyên về tội phạm tình dục trực tuyến, cho biết sự lan tràn của nội dung deepfake trên nền tảng X là chưa từng có tiền lệ từ trước cho đến nay.

"Chúng tôi chưa từng thấy kỹ thuật tinh vi nào tạo ra những hình ảnh đồi trụy kiểu này dễ dàng đến như vậy, bởi vì Grok vốn là phần mềm miễn phí và được liên kết trực tiếp với mạng X", bà này chia sẻ.

Hậu quả từ kỹ thuật này dẫn đến nhiều bi kịch cá nhân. Câu chuyện của Maddie, một sinh viên y khoa 23 tuổi, là một chứng minh điển hình. Cô thức dậy vào ngày đầu năm mới và bàng hoàng phát hiện bức ảnh chụp cùng bạn trai tại quán bar đã bị cho biến dạng: một người lạ yêu cầu AI xóa ảnh bạn trai và thay quần áo cô bằng bikini, trong khi kẻ khác yêu cầu "cho lột đồ cô" hoàn toàn 100%.

"Tôi cảm thấy như lòng mình bị thắt lại. Tôi tuyệt vọng, bất lực và ghê tởm", Maddie chia sẻ.

Tệ hơn, dù cô và bạn bè đã báo cáo sự vi phạm thô bỉ và trắng trợn này, hệ thống kiểm duyệt của X vẫn trả lời cho rằng nội dung này "không hề vi phạm quy định", khiến cho những hình ảnh giả mạo của nạn nhân tiếp tục tồn tại và lan truyền ra.

Triết lý tự do của Elon Musk
Nguyên nhân cốt lõi của tình trạng này nằm ở cách tiếp cận "thẳng thắn" và ít kèm bộ lọc của xAI, công ty phát minh ra AI Grok.

Brandy Nonek, giám đốc chính sách tại Responsible Innovation, chỉ ra rằng không giống như các chatbot phổ biến khác, Grok hầu như không đặt ra bất cứ hạn chế nào đối với người đăng ký sử dụng, cho phép họ ngụy tạo ra nội dung đồi trụy nhắm vào người thật (bao gồm cả trẻ vị thành niên). Trong khi đó, Anthropic, OpenAI hay Google đều có những quy định thật khắt khe ngay từ lúc đầu.

"Rõ ràng, xAI (công ty phát minh ra Grok) có cách tiếp cận hoàn toàn khác; nó gần như cho phép người ta được làm bất cứ điều gì mà họ muốn, kể cả làm bậy. Musk tuyên bố rằng Grok rất thú vị và thẳng thắn hơn các chatbot khác và tự hào rằng nền tảng X là "không gian tự do ngôn luận", chuyên gia này nói.

Tỷ phú Elon Musk cũng từng gây tranh cãi vì cho ra mắt Ani, "bạn gái AI” với thiết kế và các tương tác bị đánh giá là mang tính đồi trụy. (Ảnh: The Conversation)
Bà cũng chỉ trích Elon Musk vì luôn tự hào X là "không gian tự do ngôn luận" và thay vì ngăn chặn AI ngụy tạo ra các nội dung xấu từ nguồn, ông lại chọn giải pháp trừng phạt sau khi các vi phạm đã xảy ra.

"Bất cứ ai sử dụng Grok để tạo nội dung bất hợp pháp sẽ phải đối mặt với hậu quả tương tự như việc tải lên nội dung bất hợp pháp", tỷ phú này tuyên bố.

Tuy nhiên, giới pháp lý cho rằng tuyên bố của Musk là chưa hội đủ trách nhiệm. Tại châu Âu, các chính phủ đã bắt đầu ra tay hành động. Thomas Renier, phát ngôn viên của Ủy ban châu Âu, khẳng định: việc cho phát tán hình ảnh khiêu dâm, đặc biệt là hình ảnh trẻ em thông qua "chế độ nóng" của Grok, hoàn toàn là hành vi bất hợp pháp.

Hiện tại, các nạn nhân và nhân vật hoạt động đang đặt kỳ vọng vào Đạo luật Gỡ bỏ Nội dung (Takedown Act) có hiệu lực từ năm 2025, hy vọng sẽ buộc nền tảng X phải chịu trách nhiệm trực tiếp cho những nội dung đồi trụy do AI của chính họ tạo ra trước thời hạn tháng 5/2026 tới đây.

** Đọc thêm ở đây:
- https://www.techspot.com/news/110849...very-hour.html