Sau khi đối tượng nhẫn tâm ra tay với bà của ḿnh và xả súng khiến cho 19 người thiệt mạng.
Liệu rằng Facebook có nhận diện được mối đe dọa từ những ḍng tin nhắn do chính kẻ xả súng gửi đi và báo cho lực lượng chức năng?
Đây là câu hỏi mà Thống đốc bang Texas Greg Abbott đặt ra cho mạng xă hội lớn nhất thế giới, nhấn mạnh các nền tảng cần thực sự đầu tư công nghệ để phát hiện ra các mối đe dọa tiềm tàng.
Theo hăng tin AP, mặc dù Thống đốc Abbott gọi những ḍng tin nhắn của nghi phạm Ramos là bài đăng – nội dung được lượng độc giả lớn tiếp cận song khi bắt tay vào điều tra, Meta – công ty mẹ của Facebook – giải thích nghi phạm đă gửi những ḍng tin nhắn đó trong mục tin nhắn riêng và những nội dung này không được phát hiện cho đến sau khi “thảm kịch tồi tệ xảy ra”.
Các vụ xả súng hàng loạt mới nhất ở Mỹ đang gây thêm sức ép đối với các công ty truyền thông trong việc tăng cường giám sát các nền tảng chia sẻ trực tuyến.
Trong một tuyên bố, Meta cho biết công ty giám sát các tin nhắn cá nhân của người dùng để loại bỏ một số nội dung có hại, chẳng hạn như liên kết đến phần mềm độc hại hoặc h́nh ảnh xâm phạm t́nh dục trẻ em. Các liên kết hoặc h́nh ảnh này có thể được phát hiện bằng cách sử dụng các mă nhận dạng duy nhất - một loại chữ kư số - khiến chúng tương đối dễ dàng để các hệ thống máy tính gắn nhăn cảnh báo. Tuy nhiên, đối với việc nhận diện các từ ngữ đe dọa – nhiều khi được dùng trong các câu nói đùa, châm biếm hoặc lời bài hát, nhiệm vụ đó trở nên khó khăn hơn nhiều đối với hệ thống trí tuệ nhân tạo.
Ví dụ, Facebook có thể gắn nhăn cảnh báo đối với những nội dung có từ “sẽ giết” hoặc “sẽ bắn”, nhưng nếu không trong ngữ cảnh cụ thể, công nghệ AI nh́n chung sẽ gặp khó khăn và đưa ra rất nhiều cảnh báo giả để Meta phân tích. Chính v́ vậy, Facebook và các nền tảng khác phụ thuộc vào báo cáo của người dùng để xác định các nội dung đe dọa, vi phạm quy định chính sách. Tuy nhiên, thông thường khi đến được bước đó th́ mọi chuyện đă quá muộn.
Meta cho hay ngay cả hệ thống giám sát hiện giờ trên Facebook cũng sẽ sớm lỗi thời. Công ty này có kế hoạch triển khai một hệ thống mă hóa tin nhắn trên Facebook và Instagram vào năm tới. Trong hệ thống mă hóa này, ngoại trừ người nhận và người gửi, ngay cả Meta cũng không thể đọc được nội dung tin nhắn. Nền tảng WhatsApp trước đó đă áp dụng công nghệ mă hóa này.
Một báo cáo gần đây của Meta đă nhấn mạnh những lợi ích về quyền riêng tư nhưng cũng lưu ư một số rủi ro, trong đó người dùng có thể lạm dụng mă hóa để xâm phạm t́nh dục trẻ em, thực hiện hành vi buôn bán người và phát tán ngôn từ kích động thù địch.
Từ lâu ông lớn công nghệ Apple áp dụng công nghệ mă hóa đối với hệ thống nhắn tin. Tuy nhiên, điều này luôn khiến nhà sản xuất iPhone đi ngược với quan điểm của Bộ Tư pháp Mỹ về quyền riêng tư trong nhắn tin. Sau vụ bắn chết ba thủy thủ Mỹ tại một cơ sở của Hải quân vào tháng 12/2019, Bộ Tư pháp khẳng định các nhà điều tra cần quyền truy cập vào dữ liệu từ hai chiếc iPhone đă bị khóa của nghi phạm.
Các chuyên gia bảo mật giải thích việc này có thể được thực hiện nếu như Apple thiết kế một "cửa sau" cho phép truy cập vào các tin nhắn được nghi phạm gửi đi. Nhưng cũng chính các chuyên gia cảnh báo những “cửa sau” như vậy trong hệ thống mă hóa sẽ khiến chúng trở nên không an toàn. Chỉ cần biết rằng tồn tại một lỗ hổng là đủ để gián điệp và tội phạm trên thế giới dễ dàng mở khóa an toàn.