Dùng AI làm "vũ khí", nam sinh 16 tuổi "chế" ảnh nhạy cảm của bạn bè, tung lên MXH bán kiếm lời

[PinaColada]

Cảnh sát bang Johor (Malaysia) vừa bắt giữ một học sinh 16 tuổi sau khi phát hiện em này sử dụng công nghệ trí tuệ nhân tạo (AI) để tạo ra loạt hình ảnh khiêu dâm giả mạo từ ảnh cá nhân của bạn học và cựu học sinh cùng trường. Các bức ảnh bị chỉnh sửa sau đó được rao bán trên mạng xã hội với giá chỉ khoảng 0,6 đô Singapore (tương đương khoảng 11.500 đồng) mỗi tấm.

Theo thông tin từ The Star, nam sinh này hiện đang theo học tại trường Trung học Foon Yew, một trong những trường tư thục lớn nhất Malaysia. Vụ việc bị phanh phui sau khi cảnh sát nhận được 8 đơn tố giác từ phía các nạn nhân. Ước tính có từ 30 đến 40 học sinh và cựu học sinh bị nhắm đến, trong đó có cả các em chưa đầy 14 tuổi.

Ủy viên Cảnh sát trưởng bang Johor, ông M. Kumar, cho biết nghi phạm đã thu thập ảnh chân dung từ mạng xã hội, sau đó dùng công cụ AI để "ghép mặt" nạn nhân vào các hình ảnh khiêu dâm. Đáng chú ý, các sản phẩm deepfake này không chỉ được chia sẻ mà còn bị rao bán tràn lan trên nhiều nhóm kín có tên "Foon Yew".

Một chiếc điện thoại di động, được cho là thiết bị sử dụng để chỉnh sửa và phát tán ảnh, đã bị thu giữ. Cảnh sát cũng đã bắt giữ nam sinh vào chiều 8/4 và tạm giam đến ngày 12/4 để phục vụ điều tra.

Phát biểu trước báo giới, Thứ trưởng Bộ Truyền thông Malaysia, bà Teo Nie Ching, bày tỏ lo ngại sâu sắc về mức độ nghiêm trọng của vụ việc. Theo bà, phần lớn nạn nhân là cựu học sinh, trong khi một số khác vẫn chưa hay biết rằng hình ảnh cá nhân của mình đã bị sử dụng vào mục đích phi pháp.

Hiện vụ việc đang được điều tra theo Bộ luật Hình sự Malaysia về tội phát tán tài liệu khiêu dâm, cùng với các hành vi vi phạm Đạo luật Truyền thông và Đa phương tiện.

Trong khi công nghệ AI ngày càng phát triển, vụ việc này một lần nữa gióng lên hồi chuông cảnh báo về nguy cơ xâm phạm đời tư và nhân phẩm, đặc biệt là trong môi trường học đường. Các chuyên gia kêu gọi tăng cường giáo dục về an toàn số và đạo đức công nghệ, đồng thời sớm hoàn thiện hành lang pháp lý để kiểm soát các hành vi lạm dụng công nghệ vì mục đích đồi trụy.

Sự việc tại trường Trung học Foon Yew không chỉ là hồi chuông cảnh báo về đạo đức học đường, mà còn phản ánh mặt tối của công nghệ deepfake – một công nghệ ngày càng phổ biến nhưng cũng tiềm ẩn nhiều nguy cơ. Deepfake sử dụng trí tuệ nhân tạo để “thay mặt, đổi giọng” một cách tinh vi, khiến người xem rất khó nhận ra đâu là thật, đâu là giả. Khi rơi vào tay những cá nhân thiếu trách nhiệm, công nghệ này có thể trở thành công cụ xâm phạm đời tư, bôi nhọ danh dự và gây tổn thương tâm lý sâu sắc cho nạn nhân.

Theo giới chuyên gia, việc ứng dụng AI để tạo hình ảnh khiêu dâm giả mạo, đặc biệt là với trẻ vị thành niên, không chỉ vi phạm pháp luật mà còn để lại hậu quả lâu dài trong tâm lý và nhân cách. Nguy hiểm hơn, nạn nhân đôi khi không biết mình đã bị nhắm đến, cho đến khi hình ảnh lan truyền ngoài tầm kiểm soát.

Tại nhiều quốc gia, deepfake khiêu dâm đã bị xếp vào nhóm hành vi phạm tội nghiêm trọng. Tuy nhiên, luật pháp hiện hành tại Malaysia cũng như nhiều nước Đông Nam Á vẫn đang chạy theo để bắt kịp tốc độ phát triển của công nghệ. Các nhà lập pháp được kêu gọi cần sớm xây dựng hành lang pháp lý riêng biệt nhằm xử lý triệt để hành vi tạo và phát tán nội dung deepfake nhạy cảm, đồng thời có các biện pháp bảo vệ nạn nhân trong không gian số.

VietBF@ sưu tập