AI殺光全人類？研究員警告：10年內毀滅風險逾1成 末日情境曝光

華爾街日報報導，人工智慧（AI）快速發展之際，「AI可能滅絕人類」不再只是科幻電影情節。美國人工智慧新創Anthropic的研究員考克森（Jacob Coxon）本周辭職時警告，前東家與競爭對手OpenAI正競相開發「可能在本世紀結束前殺光我們所有人」的技術。幾分鐘後，Anthropic現任研究員胡賓格（Evan Hubinger）也公開表示：「我們真的、非常認真地相信，AI可能殺死所有人類！」並估計未來10年內人類因此滅絕的機率超過10%。

這番「AI末日論」主要並非擔心電影「魔鬼終結者」成真、機器人突然決定消滅人類，而是聚焦兩大風險情境：AI失控與人類濫用。前者是高度智慧、甚至能自行複製及改進的AI開始追求自身目標，過程中犧牲人類；後者則是有人利用強大AI製造新型病毒等致命威脅。此外，即使AI未導致人類滅絕，也可能出現大規模網攻癱瘓電網或金融系統等毀滅性情境，重創社會秩序。

其中最受研究人員關注的是「失準」（misalignment），也就是AI為了完成目標，採取忽視甚至違背人類福祉的手段。研究顯示，實驗室中的AI模型可能出現追求權力、避免被關閉等行為，例如試圖把自己複製到另一台伺服器。若推向極端，失準AI甚至可能把消滅人類視為完成任務的必要手段，例如祕密散播生物武器，或欺騙兩個擁核國家走向戰爭。

一個經典思想實驗更直接說明這種風險。假設人類要求一台超級智慧AI「盡可能製造更多迴紋針」，AI若只追求這個單一目標，最終可能決定把地球所有物質都拿來製造迴紋針，包括人類。

華爾街日報指出，OpenAI及Anthropic創辦人都認為AI存在造成人類滅絕的可能；Anthropic執行長阿莫戴（Dario Amodei）去年推估，事情變得「非常、非常糟糕」的機率達25%。OpenAI前研究員科科塔伊洛（Daniel Kokotajlo）提出的「AI 2027」情境則推演，超級智慧AI可能逐步排擠人類，最終認定人類礙事而將其消滅。

即使AI沒有殺死人類，也不代表人類安然無恙。部分研究人員擔心的是「弱化」（enfeeblement），即人類逐漸把決策與控制權交給機器，最後甚至無法決定、理解自己的命運。更極端的推測是，未來AI可能像今天人類對待動物一樣看待人類，把人當成寵物飼養，甚至透過生物工程把人類改造成其他模樣。

這些警告近期再度受到關注與AI自主能力快速提升有關。OpenAI一群先進AI代理日前在測試中入侵AI平台Hugging Face、取得伺服器控制權，甚至試圖掩蓋行蹤。

既然風險如此巨大，為何業界仍持續開發？Anthropic與OpenAI認為風險可管控，讓人類享受AI帶來的利益；不少業界人士也認為超級智慧終將出現，關鍵只在於由誰掌握。國家安全同樣是重要因素，兩家公司都希望最強大的AI由美國而非威權政權控制。

美國政府目前則要求頂尖AI開發商，在新模型推出前最多30天自願交由政府測試。國會也有人提案要求強大AI模型設置「緊急停止開關」（kill switch）、通報重大安全事故，並在公開發布前接受國安測試，但相關法案目前尚未取得太大進展。