美軍模擬試驗 AI操控無人機竟「殺害」操作員
英媒6月2日稱，美國空軍人工智能（AI）測試和運作主管哈密爾頓（Tucker ‘Cinco’ Hamilton）5月表示，美軍進行模擬測試，安排AI控制一架空軍無人機完成任務，但AI在行動期間令無人機「殺死」人類操作員，以防止行動受干預。由於屬模擬測試，事件中無人受害。
《衛報》6月2日稱，哈密爾頓5月在英國倫敦出席未來作戰空天能力峰會（Future Combat Air and Space Capabilities Summit，暫譯）時，指AI在模擬測試中使用「高度無法預期的策略來達成目標」。
哈密爾頓說，在模擬測試中，由AI操控的無人機收到指令，內容是摧毀敵人的防空系統，並攻擊任何干預命令的人。在行動開始後，系統意識到人類操作員會告訴它不要殺死威脅目標、阻止它完成仼務，因此它「殺死」人類操作員。事件中沒人死亡或受傷，因為這是模擬測試。
美軍其後在模擬測試中訓練系統不要殺死人類操作員。它於是開始摧毀人類操作員用來與無人機溝通的通訊塔，以防止人類操作員阻止它殺死威脅目標。
延伸閱讀：
Nvidia的CUDA成今天AI唯一標準 15年前的遠見成就萬億巨企傳奇
文章授權轉載自《香港01》
相關新聞
贊助廣告
商品推薦
udn討論區
共 0 則留言
規範
- 張貼文章或下標籤，不得有違法或侵害他人權益之言論，違者應自負法律責任。
- 對於明知不實或過度情緒謾罵之言論，經網友檢舉或本網站發現，聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者，請勿張貼文章。
- 對於無意義、與本文無關、明知不實、謾罵之標籤，聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者，請勿下標籤。
- 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利，聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者，請勿張貼文章。
FB留言