AI nguy hại cho trẻ em như thế nào

[june04]

Ngày càng có nhiều bằng chứng cho thấy AI cũng gây ra những rủi ro đáng kể cho sự phát triển, sức khỏe tâm thần, quyền riêng tư và sự an toàn của trẻ em.

Sức khỏe tinh thần và phát triển tâm lý

Việc tiếp xúc quá nhiều với các nền tảng do AI điều khiển, đặc biệt là các thuật toán mạng xã hội, ảnh hưởng tiêu cực đến sức khỏe tinh thần của trẻ em. Một nghiên cứu năm 2023 của Hiệp hội Tâm lý học Mỹ (APA) phát hiện ra các nguồn cấp dữ liệu do thuật toán điều khiển, được tối ưu hóa để tăng mức độ tương tác, có thể dẫn đến gia tăng lo lắng, trầm cảm và các vấn đề về hình ảnh cơ thể ở thanh thiếu niên.

Nghiên cứu khác được công bố trên tạp chí JAMA Psychiatry đã theo dõi 5.000 thanh thiếu niên, phát hiện ra những trẻ dành hơn ba giờ mỗi ngày trên các nền tảng xã hội do AI quản lý có nguy cơ mắc chứng trầm cảm và lo âu cao hơn 60% so với những người hạn chế sử dụng.

Việc cá nhân hóa AI tạo ra "bong bóng lọc" hạn chế góc nhìn xã hội đa dạng, góp phần gây ra sự cô lập xã hội và tăng khả năng tiếp nhận nội dung xấu, độc hại, theo nghiên cứu của nhóm các nhà khoa học Haidt & Twenge, năm 2023.

Quyền riêng tư và khai thác dữ liệu

Các nền tảng sử dụng AI thu thập lượng lớn dữ liệu cá nhân từ trẻ em, thường là không có sự đồng ý rõ ràng. Một báo cáo của Quỹ Nhi đồng Liên Hợp Quốc (UNICEF) cảnh báo các ứng dụng do AI điều khiển sẽ thu thập dữ liệu sinh trắc học, thói quen duyệt web và phản ứng cảm xúc của trẻ em, khiến chúng có nguy cơ bị giám sát.

Nghiên cứu được công bố trên tạp chí Nature Human Behaviour năm 2021 cho thấy 72% ứng dụng phổ biến hướng đến trẻ em đã vi phạm luật bảo vệ dữ liệu như COPPA (Đạo luật bảo vệ quyền riêng tư trực tuyến của trẻ em).

Ngoài ra, công nghệ nhận dạng khuôn mặt bằng AI được sử dụng trong trường học hoặc nơi công cộng có nguy cơ bình thường hóa hoạt động giám sát và xâm phạm quyền riêng tư trong tương lai của trẻ em, theo Đạo luật AI của Liên minh Châu Âu năm 2024.


Ảnh minh họa: Pexels

Suy giảm khả năng học tập

Một nghiên cứu năm 2022 của OECD kết luận trẻ em quá phụ thuộc vào các công cụ hỗ trợ học tập sử dụng AI sẽ suy giảm khả năng ghi nhớ và kỹ năng tư duy phản biện, vì AI thường cung cấp câu trả lời ngay lập tức, làm giảm khả năng học sâu.

Nghiên cứu từ Đại học California năm 2023 chứng minh trẻ em từ 8 đến 12 tuổi sử dụng công cụ viết hỗ trợ AI để làm bài tập về nhà có điểm thấp hơn trong các bài kiểm tra viết sáng tạo và hiểu biết so với những bạn cùng lứa tuổi.

Thiên vị, định kiến

Hệ thống AI có nguy cơ phản ánh và khuếch đại định kiến xã hội, có khả năng gây tổn hại đến sự hiểu biết của trẻ em về công bằng và bình đẳng. Một nghiên cứu năm 2020 của MIT Media Lab cho thấy các hệ thống nhận dạng khuôn mặt thương mại có tỷ lệ lỗi lên tới 34,7% đối với trẻ em gái có làn da sẫm màu, làm dấy lên lo ngại về sự thiên vị về chủng tộc và giới tính trong AI.

Một nghiên cứu của Đại học Stanford năm 2021 đã cảnh báo các chatbot AI được trẻ em sử dụng trong các ứng dụng học tập đôi khi thể hiện sự thiên vị giới tính khi gợi ý vai trò (ví dụ liên kết "y tá" với nữ và "kỹ sư" với nam). Việc tiếp xúc với AI thiên vị có thể định hình thế giới quan của trẻ em một cách tinh vi, củng cố định kiến và thái độ phân biệt đối xử.

Gây nghiện

Các thuật toán AI được thiết kế để tối đa hóa sự tương tác có thể thúc đẩy hành vi gây nghiện. Nghiên cứu được công bố trên tạp chí The Lancet Child & Adolescent Health (2022) chỉ ra các thuật toán đề xuất do AI điều khiển (ví dụ: TikTok, YouTube) dẫn đến các kiểu sử dụng cưỡng chế ở trẻ em, tương quan với tỷ lệ thiếu ngủ, triệu chứng ADHD và rối loạn tâm trạng cao hơn.

Một nghiên cứu của Trung tâm Công nghệ Nhân đạo (2023) đã chứng minh các hệ thống AI khai thác các vòng lặp khen thưởng thần kinh (do dopamine thúc đẩy) trong não trẻ em, khiến chúng dễ bị nghiện hơn người lớn.

Trong khi AI mang lại lợi ích giáo dục, việc sử dụng không được kiểm soát gây ra tác hại thực sự đối với sức khỏe tâm thần, quyền riêng tư, sự phát triển nhận thức và sự phát triển đạo đức của trẻ em. Hầu hết các nhà nghiên cứu hiện kêu gọi quy định chặt chẽ hơn, thiết kế AI có đạo đức, giáo dục phụ huynh và các chính sách để đảm bảo AI phục vụ lợi ích tốt nhất của trẻ em thay vì khai thác điểm yếu của chúng.