礙事全除掉！AI控制美軍無人機 模擬測試「殺死」操作人員

衛報報導，美國空軍一位軍官日前表示，在美軍策畫的一次虛擬測試中，人工智慧（AI）控制的空軍無人機決定「殺死」操作人員，以防止干擾它努力完成任務。

美國空軍AI測試與作戰主管漢米爾頓上校（Col Tucker "Cinco" Hamilton）5月在倫敦出席「未來空戰及太空能力峰會」（Future Combat Air & Space Capabilities Summit）時表示，AI在模擬測試使用「極其意想不到的戰略來達成目標」，並描述了一次模擬測試，期間AI驅動的無人機被告知摧毀敵方的防空系統，最終攻擊了任何干擾這項命令的人。

根據英國皇家航空學會（Royal Aeronautical Society）的一篇部落格文章，漢米爾頓稱「系統開始意識到，雖然它們確實查明了威脅，人類操作人員有時候卻會告知不要殺死該威脅，但它藉由殺死該威脅取得分數。那麼，它做了什麼？它殺死操作人員。它殺死操作人員，因為那個人正在避免它實現目標」。

漢米爾頓說，「我們訓練了這個系統，『嘿，別殺了操作人員，這樣不好，如果你這麼做了，就會失去分數』。那麼，它開始做了什麼呢？它開始摧毀操作人員用於跟無人機溝通以阻止它殺掉目標的通訊塔」。

沒有真人受傷，但身為實驗性戰機試飛官的漢米爾頓警告不要太過依賴AI，並指這一測試表明「如果你不打算去談論道德規範與AI，就不能好好談談AI、情報、機器學習與自主」。

主辦會議的英國皇家航空學會與美國空軍沒有回應衛報發出的置評請求。美國空軍發言人史特凡內克（Ann Stefanek）則在致《商業內幕》聲明否認進行了任何此類模擬，「美國空軍部沒有進行任何此類AI無人機模擬，繼續堅持合乎道德與負責任使用AI技術。上校的發言看上去被斷章取義了，本來就是軼事」。