Anthropic前研究員憂AI失控消滅人類 執行長：他批評的是整個產業

Anthropic研究員考克森（Jacob Coxon）上周公開宣布離職，他之前在社群媒體便屢屢發文講述OpenAI、Anthropic是如何利用這項技術「拿我們的生命冒險」、「人工智慧（AI）可能很快毀滅人類」、「開發AI的人真心相信它可能會毀滅我們所有人」。其他AI研究員也紛紛表達類似的擔憂。

不過，英國天空新聞報導，Anthropic執行長阿莫戴接受美國CNN採訪時回應說，考克森並非公開點名批評Anthropic，而是在批評整個AI產業的發展態勢。阿莫戴說：「我同意考克森的地方，遠多於反對。」

阿莫戴表示：「考克森離開時說，『我認為Anthropic公司是最負責任的參與者，也是最理解這些問題的公司。」

阿莫戴也說，公開表達AI造成災難的機率，效果可能適得其反，如果採取正確的行動，AI是可以受到控制的。

考克森的貼文得到同樣在Anthropic工作的首席科學家胡賓格（Evan Hubinger）回應，他估計人類未來10年內滅絕機率超過10%，高於NBA球星柯瑞（Stephen Curry）罰球不進的可能性。

OpenAI安全研究員史提爾（Julie Steele）上周表示，AI公司需要放慢腳步。Google DeepMind的成員基爾希（Andreas Kirsch）11日寫道，他擔心「AI會毀滅我們所有人，無論是短期、長期風險，還是兩者兼有」。知情人士透露，一些從業人員正在向高階主管呼籲，在AI技術獲得適當保障措施之前，應暫停研發。

倡導AI監管的非營利組織ControlAI美國負責人李希（Connor Leahy〉指出，人們長期以來一直不敢公開談論AI之弊，因為害怕被當成危言聳聽、過於極端，「現在這種沉默終於破冰」。