憂五角大廈協議 OpenAI主管辭職

美國人工智慧（ＡＩ）公司OpenAI二月底與美國國防部達成新協議，同意將其ＡＩ模型部署到五角大廈機密雲端網路。OpenAI機器人與消費性硬體部門主管卡里諾夫斯基七日宣布辭職，原因是對該協議抱持擔憂，指稱公司並未充分評估。

卡里諾夫斯基在社群媒體Ｘ發文說，她相當尊敬OpenAI執行長奧特曼及其團隊，這次離職決定並不容易，但該公司宣布上述協議時，並未設置明確防護措施。

卡里諾夫斯基說，ＡＩ在國家安全扮演重要角色，但在缺乏司法監督下監控美國公民，以及在未經人類授權下賦予武器致命的自主權，都是應更謹慎討論的界線。她也寫道，這主要關乎公司的治理問題，該協議事關重大，不該為了要簽約或對外發布而匆促行事。

卡利諾夫斯基二○二四年十一月加入OpenAI的機器人技術團隊，先前於二○二二年三月至二○二四年六月擔任社群巨頭Meta的擴增實境眼鏡負責人，二○一三年二月至二○二二年三月擔任現為Meta旗下的Oculus VR虛擬實境硬體主管，更早也待過蘋果公司。

奧特曼二月廿七日宣布上述協議，表示將採用「技術性防護措施」確保安全，強調最重要的兩項安全原則就是禁止用於美國國內大規模監控，以及確保使用自主武器系統等武力時的人為責任，這些原則已納入雙方協議。

同時，另一家ＡＩ新創大廠Anthropic卻因堅持在與五角大廈的協議加入這類防護條款，面臨川普政府封殺。美國總統川普二月廿七日在自創社媒真實社群發文批評，Anthropic不願配合政府要求，正指示美國各聯邦機構立即停用其技術。五角大廈五日正式將Anthropic列為「供應鏈風險」企業，限制其技術用於軍事行動。

OpenAI達成上述協議後已說，該協議包含額外防護措施，並在七日重申，設有「紅線」規定以防技術被用於國內監控或自主武器，將持續與全球各地的員工、政府、公民社會及社群溝通。

有外媒認為，卡利諾夫斯基離職可能會對OpenAI和奧特曼造成更大負面影響。奧特曼宣布上述協議後，已有大量用戶取消訂閱該公司的ChatGPT，改用替代方案。Anthropic與五角大廈就合約問題發生糾紛時，其主應用程式Claude的下載量曾飆升至蘋果應用程式商店的榜首，顯示消費者對其支持。