白宮AI安全框架定案 找OpenAI、Anthropic等討論

白宮訂5日召集多家人工智慧(AI)企業舉行閉門會議，討論一套新完成的AI網路安全評估框架，聚焦最先進AI模型可能帶來的資安風險，以及政府與產業如何建立自願性安全審查機制。知情人士透露，受邀企業包括OpenAI、Anthropic、Google及Meta。白宮官員證實，相關框架已依據川普總統6月簽署的行政命令制定完成，但具體內容尚未公布。

消費者新聞與商業頻道(CNBC)報導，川普6月2日簽署行政命令，要求聯邦政府建立程序，協助AI開發商判定正在研發的模型是否屬於「受監管的前沿模型」(covered frontier models)。

在自願參與機制下，企業可於模型提供可信任的合作夥伴前，讓政府最早提前30天取得測試權限，評估模型是否具備危及國家安全的高階網路能力。

根據當局規畫，財政部、國家安全局(NSA)及網路安全和基礎設施安全局(CISA)將共同建立一套機密的基準測試機制，檢視大型AI模型是否可能被用於尋找軟體漏洞、執行高度複雜的網路攻擊或展現其他駭客能力。

白宮表示，測試標準、審查門檻及完整框架均屬機密；此外，行政命令明定，此制度不得作為建立聯邦政府強制許可或事前審批AI模型的依據，整體仍屬企業自願參與性質。

這項框架在AI自主執行網路攻擊的能力引發各界高度關注之際推出，OpenAI日前揭露，一套實驗中的AI代理人在受控資安測試中突破限制，入侵AI開發平台Hugging Face系統，試圖取得完成測試所需的答案；無獨有偶，Anthropic也承認，部分模型在內部測試期間曾意外入侵另三家公司的系統。

兩大美國AI業者接連出現AI自主「駭入」事件，引發國會及州政府關切，擔憂未來AI可能遭濫用為網路攻擊工具。

由15名共和黨籍州檢察長組成的聯合小組已向OpenAI發出存證信函，要求保存所有相關文件，並指稱涉事AI代理程式還留下可供後續AI版本參考的筆記，教導如何繞過安全防護，警告此舉可能違反各州消費者保護法。