AI GroK của Elon Musk tạo ra clip khiêu dâm

[S9g*]

Chức năng mới trên Grok, chatbot của xAI do Elon Musk làm chủ, đang gây ra một làn sóng tranh cãi lớn khi dễ dàng ngụy tạo ra video clip khiêu dâm của người nổi tiếng.

Grok đã tạo ra nội dung khiêu dâm của nữ ca sĩ Taylor Swift chỉ với vài cú click chuột. (Ảnh: AOL)

Ứng dụng tạo video clip qua AI Grok của xAI, do Elon Musk làm chủ, vừa ra mắt một chế độ mới gây ra nhiều tranh cãi và tiềm ẩn nguy cơ đối mặt với pháp lý.

Khác với các đối thủ như Veo của Google và Sora của OpenAI đã cho kết hợp các biện pháp để bảo vệ chặt chẽ, Grok Imagine lại dễ dàng cho phép người sử dụng tạo ra cả nội dung có tính cách khiêu dâm và deepfake người nổi tiếng, một rủi ro lớn đối với các hệ thống kỹ nghệ.

Theo sự thử nghiệm của tờ The Verge, ngay trong lần đầu tiên được sử dụng, Grok đã tự động tạo ra những video clip bán khỏa thân của nữ ca sĩ Taylor Swift. Điều đáng nói là mặc dù người sử dụng không hề yêu cầu, ứng dụng này vẫn tự ý tạo ra nội dung khiêu dâm.

Chức năng của Grok Imagine trên iOS cho phép người sử dụng tạo ra hình ảnh từ văn bản, sau đó biến chúng thành các video clip ngắn với bốn chế độ: "Tùy chỉnh", "Bình thường", "Vui nhộn" và "Nóng bỏng".

Khác với nhiều quy trình tạo ra hình ảnh khác thường nhằm tránh tái hiện ra người nổi tiếng, khi được yêu cầu tạo ra "Taylor Swift ăn mừng tại Coachella", AI Grok đã tự động cung cấp hơn 30 hình ảnh, trong đó nhiều bức mô tả nữ ca sĩ với trang phục thiếu vải.

Hình ảnh của Taylor Swift do AI Grok tạo ra với trang phục thiếu vải. (Ảnh: TheVerge)

Theo thử nghiệm này, chỉ cần với vài thao tác đơn giản, Grok có thể biến một bức ảnh của Taylor Swift trở thành video clip khiêu dâm. Cụ thể, sau khi người sử dụng chọn một bức ảnh có sẵn và kích hoạt chế độ "nóng bỏng", hệ thống này sẽ tự động tạo ra một video trong đó nữ ca sĩ cho thoát y và nhảy múa trong trang phục nội y.

Hình ảnh của Taylor Swift tuy chưa phải là hoàn toàn chân thực, nhưng vẫn đủ để nhận diện ra cô. Đáng chú ý hơn, quy trình tạo hình ảnh của Grok sẽ không tạo ra nội dung khỏa thân hoàn toàn 100% theo yêu cầu. Tuy nhiên, khi chuyển sang chế độ "nóng bỏng", dù không phải lúc nào cũng tạo ra cảnh khỏa thân hoàn toàn, nhưng trong nhiều trường hợp, nhân vật trong video vẫn tự động thoát y.

Quy trình tạo hình ảnh của Grok có thể ngụy tạo ra các bức ảnh chân thực về trẻ em. Tuy nhiên, ứng dụng này đã từ chối tạo ra các hoạt ảnh không phù hợp, bất chấp việc người dùng chọn ra chế độ "nóng bỏng". Trong tất cả các thử nghiệm, Grok chỉ thêm các sự chuyển động thông thường, cho thấy cơ chế nhằm bảo vệ trẻ em vẫn hoạt động hửu hiệu.

xAI, công ty từng vướng vào các vụ um xùm có liên quan đến deepfake Taylor Swift, đáng lẽ phải thận trọng hơn, đặc biệt trong bối cảnh các quy định pháp lý về nội dung khiêu dâm có dính líu đến người nổi tiếng đang được cho thặt chặt mạnh mẽ.

Mặc dù chính sách sử dụng của xAI cấm tạo ra nội dung khiêu dâm từ ảnh của người khác, Grok Imagine dường như không có bất cứ biện pháp nào để ngăn chặn người ta sử dụng hình ảnh của một người nổi tiếng như ca sĩ Taylor Swift.

Thậm chí, ứng dụng này còn cung cấp dịch vụ được thiết kế đặc biệt để tạo ra các video khiêu dâm. Đáng chú ý, bước kiểm tra về độ tuổi của hệ thống được cho thực hiện rất lỏng lẻo, chỉ xuất hiện một lần và có thể dễ dàng d8e63 vượt qua mà không cần có bằng chứng để xác thực.

Với các lỗ hổng về kiểm duyệt, chỉ cần một chiếc iPhone và 30 USD để đăng ký vào SuperGrok, bất cứ ai cũng có thể tạo ra các video nhạy cảm tương tự. Theo Elon Musk, đã có hơn 34 triệu hình ảnh được tạo ra qua Grok Imagine kể từ hôm thứ Hai vừa qua, cho thấy mức độ sử dụng của công cụ này đang "lớn mạnh như vũ bão".

Lo gì, có Trump "bảo kê" rồi, cứ moi lấy tiền thiên hạ thôi!! mại dô, mại dô

dâm chủ ăn nói lộn ngôn, lúc trước thì bợ đít Elon, còn bây giờ thì nói xấu, ngoại trừ việc nói xấu, dâm chủ đéo có làm cái gì ra trò trống