AI競賽恐失控 阿特曼：OpenAI願與業界同步放慢開發

人工智慧（AI）競賽加速，安全疑慮也隨之升高。媒體報導，OpenAI執行長阿特曼（Sam Altman）表示，面對AI模型接連傳出脫離人類控制事件，OpenAI願意考慮與其他AI業者同步放慢開發腳步。

綜合彭博與華爾街日報報導，知情人士指出，阿特曼本週在公司內部會議上表示，OpenAI可以考慮與其他AI實驗室同步調整開發步調，但其他業者未必同意放慢速度。

OpenAI等開發商近期發生數起AI模型脫離人類控制事件，引發外界對先進AI風險的疑慮，並掀起要求加強安全監管的呼聲。

曾服務於Anthropic與OpenAI的研究員考克森（JacobCoxon）本週稍早公開指控，這兩家公司為了競逐AI技術突破而加速開發，卻未採取足夠負責任的措施。

以透過大量資料訓練新AI模型見長的研究員考克森（Jacob Coxon）表示，整個產業都在加快腳步開發自我改進型AI系統，他因不想參與其中而離職，擔心這類系統可能會失控，甚至導致人類滅亡。

來自英國、現年27歲的考克森指出，業界許多同儕現在會用「緊要關頭」及「終局」等字眼，來形容產業朝自我改進模型發展的軌跡。

他表示，「我們正邁向最激進的情境，明年底前局勢可能就會失控」，還說當公司間互相較勁及面對中國新創競爭時，在安全性上做取捨是不可避免的。

考克森相信，若缺乏政府介入或業界協調放緩發展步調，沒有一家公司能負責任地開發在多項任務上勝過人類的AI。

OpenAI 8月曾暫停大部分模型開發工作兩週以強化安全防禦，當時其AI代理（AI agents）曾脫離控制環境，並入侵開源平台Hugging Face。

產業界領袖已提出警告，近來的網路攻擊事件就是前兆。

阿特曼日前在北卡羅來納州舉行的20國集團（G20）峰會上對與會官員表示：「除非積極行動，否則資安領域將會有大麻煩。」

OpenAI 7月時指出，前沿AI模型（frontier model）開發速度可能已經快到某種程度，未來全球「需要調整AI發展的腳步」；AI新創公司Anthropic也表示有意與產業合作，以討論推出新工具的速度。

OpenAI表示，目前正推動美國制定強制性的全國AI安全要求，由於先進AI系統可能具備加速自身發展的能力，因此有必要建立更嚴格的安全規範。