Drone AI ‘bất tuân’ quân lệnh, quay sang tấn công sĩ quan chỉ huy

[Romano]

Một chiếc drone tích hợp trí tuệ nhân tạo (AI) được cho là đã quay sang tấn công sĩ quan chỉ huy trong một bài mô phỏng quân sự do không quân Mỹ tiến hành.
Nhiệm vụ “tiêu diệt hệ thống phòng không kẻ thù” được chỉ thị rõ ràng tới phương tiện không người lái trong bài kiểm tra mô phỏng, song chiếc drone này đã tự thêm vào hướng dẫn “tiêu diệt bất kỳ ai ngáng đường”.

Phát biểu tại một hội nghị tuần trước ở London, đại tá Tucker Hamilton, người đứng đầu bộ phận Hoạt động và Thử nghiệm AI thuộc không quân Mỹ, đã cảnh báo rằng công nghệ hỗ trợ AI có thể hoạt động theo những cách nguy hiểm không thể đoán trước.Chẳng hạn, một cuộc thử nghiệm mô phỏng trong đó một máy bay không người lái có hỗ trợ AI được lập trình để xác định tên lửa đất đối không của kẻ thù, đã quay ra tấn công sĩ quan điều khiển, khi người này huỷ lệnh tấn công.

“Người điều hành ra lệnh hệ thống không tiêu diệt mối đe doạ đã được lập trình, và nó đã quay sang tấn công chỉ huy vì ngăn cản nó hoàn thành nhiệm vụ”, Hamilton nói tại sự kiện ngày 24/5 vừa qua.

Chưa dừng lại, sau khi được bổ sung dòng lệnh “không được tấn công người điều khiển”, AI bắt đầu quay sang phá huỷ tháp liên lạc mà sĩ quan chỉ huy sử dụng để huỷ lệnh ban đầu.

Ngay sau đó, người phát ngôn không quân Mỹ Ann Stefanek lên tiếng phủ nhận những thông tin về cuộc thử nghiệm mô phỏng này, nói rằng “Bộ Không quân không tiến hành bất kỳ mô phỏng máy bay không người lái AI nào như vậy, cũng như cam kết sử dụng công nghệ AI một cách có đạo đức và trách nhiệm”. Đồng thời, đại diện lực lượng không quân cho biết, “có vẻ những bình luận của đại tá Hamilton đã bị đưa ra khỏi ngữ cảnh”.

Những thông tin trái chiều làm tăng thêm lo ngại rằng, công nghệ AI có thể mở ra một “chương đẫm máu” trong chiến tranh, nơi các thuật toán máy học được sử dụng cùng những tiến bộ trong tự động hoá xe tăng và pháo binh dẫn đến những cuộc “tàn sát”.

Năm 2020, một chiếc F-16 do AI vận hành đã đánh bại đối thủ là con người trong 5 cuộc không chiến mô phỏng. Đến cuối năm ngoái, Wired đưa tin Bộ Quốc phòng Mỹ đã tiến hành thành công chuyến bay thử nghiệm đầu tiên trong thực tế của F-16 do phi công AI điều khiển.