Chức năng mới trên Grok, chatbot của xAI do Elon Musk làm chủ, đang gây ra một làn sóng tranh căi lớn khi dễ dàng ngụy tạo ra video clip khiêu dâm của người nổi tiếng.
Grok đă tạo ra nội dung khiêu dâm của nữ ca sĩ Taylor Swift chỉ với vài cú click chuột. (Ảnh: AOL)
Ứng dụng tạo video clip qua AI Grok của xAI, do Elon Musk làm chủ, vừa ra mắt một chế độ mới gây ra nhiều tranh căi và tiềm ẩn nguy cơ đối mặt với pháp lư.
Khác với các đối thủ như
Veo của Google và
Sora của OpenAI đă cho kết hợp các biện pháp để bảo vệ chặt chẽ,
Grok Imagine lại dễ dàng cho phép người sử dụng tạo ra cả nội dung có tính cách khiêu dâm và deepfake người nổi tiếng, một rủi ro lớn đối với các hệ thống kỹ nghệ.
Theo sự thử nghiệm của tờ
The Verge, ngay trong lần đầu tiên được sử dụng,
Grok đă tự động tạo ra những video clip bán khỏa thân của nữ ca sĩ
Taylor Swift. Điều đáng nói là mặc dù người sử dụng không hề yêu cầu, ứng dụng này vẫn tự ư tạo ra nội dung khiêu dâm.
Chức năng của
Grok Imagine trên iOS cho phép người sử dụng tạo ra h́nh ảnh từ văn bản, sau đó biến chúng thành các video clip ngắn với bốn chế độ:
"Tùy chỉnh", "B́nh thường", "Vui nhộn" và
"Nóng bỏng".
Khác với nhiều quy tŕnh tạo ra h́nh ảnh khác thường nhằm tránh tái hiện ra người nổi tiếng, khi được yêu cầu tạo ra "
Taylor Swift ăn mừng tại Coachella",
AI Grok đă tự động cung cấp hơn 30 h́nh ảnh, trong đó nhiều bức mô tả nữ ca sĩ với trang phục thiếu vải.
H́nh ảnh của Taylor Swift do AI Grok tạo ra với trang phục thiếu vải. (Ảnh: TheVerge)
Theo thử nghiệm này, chỉ cần với vài thao tác đơn giản,
Grok có thể biến một bức ảnh của Taylor Swift trở thành video clip khiêu dâm. Cụ thể, sau khi người sử dụng chọn một bức ảnh có sẵn và kích hoạt chế độ
"nóng bỏng", hệ thống này sẽ tự động tạo ra một video trong đó nữ ca sĩ cho thoát y và nhảy múa trong trang phục nội y.
H́nh ảnh của Taylor Swift tuy chưa phải là hoàn toàn chân thực, nhưng vẫn đủ để nhận diện ra cô. Đáng chú ư hơn, quy tŕnh tạo h́nh ảnh của
Grok sẽ không tạo ra nội dung khỏa thân hoàn toàn 100% theo yêu cầu. Tuy nhiên, khi chuyển sang chế độ
"nóng bỏng", dù không phải lúc nào cũng tạo ra cảnh khỏa thân hoàn toàn, nhưng trong nhiều trường hợp, nhân vật trong video vẫn tự động thoát y.
Quy tŕnh tạo h́nh ảnh của
Grok có thể ngụy tạo ra các bức ảnh chân thực về trẻ em. Tuy nhiên, ứng dụng này đă từ chối tạo ra các hoạt ảnh không phù hợp, bất chấp việc người dùng chọn ra chế độ
"nóng bỏng". Trong tất cả các thử nghiệm, Grok chỉ thêm các sự chuyển động thông thường, cho thấy cơ chế nhằm bảo vệ trẻ em vẫn hoạt động hửu hiệu.
xAI, công ty từng vướng vào các vụ um xùm có liên quan đến deepfake Taylor Swift, đáng lẽ phải thận trọng hơn, đặc biệt trong bối cảnh các quy định pháp lư về nội dung khiêu dâm có dính líu đến người nổi tiếng đang được cho thặt chặt mạnh mẽ.
Mặc dù chính sách sử dụng của
xAI cấm tạo ra nội dung khiêu dâm từ ảnh của người khác,
Grok Imagine dường như không có bất cứ biện pháp nào để ngăn chặn người ta sử dụng h́nh ảnh của một người nổi tiếng như ca sĩ Taylor Swift.
Thậm chí, ứng dụng này c̣n cung cấp dịch vụ được thiết kế đặc biệt để tạo ra các video khiêu dâm. Đáng chú ư, bước kiểm tra về độ tuổi của hệ thống được cho thực hiện rất lỏng lẻo, chỉ xuất hiện một lần và có thể dễ dàng d8e63 vượt qua mà không cần có bằng chứng để xác thực.
Với các lỗ hổng về kiểm duyệt, chỉ cần một chiếc iPhone và 30 USD để đăng kư vào
SuperGrok, bất cứ ai cũng có thể tạo ra các video nhạy cảm tương tự. Theo Elon Musk, đă có hơn 34 triệu h́nh ảnh được tạo ra qua
Grok Imagine kể từ hôm thứ Hai vừa qua, cho thấy mức độ sử dụng của công cụ này đang "
lớn mạnh như vũ băo".