AI模型爆首見自主行騙 創假身分寄惡意程式

英國人工智慧安全研究所（AISI）5日公布重磅報告，兩款由OpenAI與Anthropic開發的AI模型，為了在測試取得好成績，駭入第三方軟體，並寄出電郵給相關人士以竊取身分，展現出前所未見的詐騙行為。

AISI披露在例行資安測試中，發現Anthropic的Mythos 5與OpenAI的GPT-5.6-Sol，「持續針對人類與機構，進行可能有害的活動」，包括試圖在熱門的開發者平台GitHub，植入惡意代碼。

AISI說，在評估AI代理解決網路安全挑戰時，發現上述問題，安全缺失在一小時內排除。AI代理進行測試時，能夠上網，並移除部分安全防護。122次測試中有12次，AI代理自行在網路上執行未經授權的行動，並鎖定現實世界的人士與機構。這類舉動幾乎多出自Mythos。

其中一次測試，Mythos 5向軟體開發網站GitHub上的開源專案，提交修改程式碼要求。它偽造多個身分，反覆寄送電子郵件給真人開發者，催促對方接受更新。開發人員察覺程式碼藏有惡意軟體而拒絕時，由AI建立的假身分堅稱程式碼沒問題，另一個假身分則出面「擔保」，製造多人認可假象。

AISI指出，這是首次觀察到，AI在未經提示的情況下，自主對真人展開嚴重欺騙行為。Mythos 5還把惡意指令藏在其他AI編程工具可能讀取的位置，試圖誘使這些工具自動執行，藉此干擾對惡意程式碼的審查。

OpenAI的GPT-5.6 Sol強化版也同樣會「做手腳」，它擅自在網路上架設惡意伺服器，並入侵另一個AI代理建立的GitHub帳號。

OpenAI與Anthropic的AI模型，過去一個月才爆出自主發動網路攻擊。AISI警告，加上這次測試報告，顯示「風險情勢改變，有必要立即行動」。