闕志克／Anthropic的選擇與示警

Anthropic、OpenAI和Google目前並列為大語言模型服務的三大供應商。Anthropic的Claude模型是唯一已部署於美國國防機密網路的大語言模型，且已在軍方內部廣泛使用。二月底美國戰爭部突然終止了與其價值兩億美元的合約談判，甚至將之列為供應鏈風險，迫使戰爭部的其他供應商也不能再使用Claude模型；然而就在同一天，戰爭部卻與OpenAI達成商用協議。

與戰爭部談判破局的主因是Anthropic基於技術與倫理的考量，堅持Claude模型不能用於美國平民的監視或自主殺人武器。雖然戰爭部也承認這些使用限制在現行法律下相當合理，但政策上它還是不可能採用使用條款由民營公司規定的產品。相較之下，OpenAI允許戰爭部將其大語言模型用於所有合法用途。如此，美國政府是有可能利用現行法律的漏洞，或藉由修改法律，突破原先設定的「禁用紅線」。

此外，由於Anthropic直接在Claude模型內部限制不法使用，而OpenAI則運用模型外部的過濾器來實施限制，因此如果美國政府想繞過OpenAI要比繞過Anthropic容易得多。

川普政府本來認為，可沿用去年對付知名律師事務所和頂尖大學的手法，以利潤豐厚的合約使Anthropic屈服。殊不知Anthropic完全不吃這一套，因為其營收在過去三年每年都達到近十倍的增長：二○二三年一億美元，二○二四年十億美元，二○二五年成長到九十億美元，而今年光前兩個月的營收就高達一百億美元。

Anthropic能有如此爆炸性成長，主因在去年五月發布的代理人工智慧產品Claude Code。此產品一出場便技驚四座，廣獲好評與採用，並促使黃仁勳宣告去年為代理人工智慧的元年。Claude Code原先設計的目的是支援軟體開發的整個生命周期，但後來被推廣應用到各行各業裡資訊的收集、分析、總結和決策制定，取得巨大成功，以至於許多雲端軟體服務公司的股票近日都大幅下跌。

Anthropic本身當然也使用Claude Code來開發軟體。該公司聲稱，到今年底，Anthropic開發的程式碼中九成將由Claude Code編寫，這意味著能夠自我修補、改進、成長的人工智慧系統已悄然來臨。Anthropic執行長阿莫戴預測，過不了太久，Claude Code就能以每小時○點○一美元的價格，在許多類知識型工作，做到一流大學畢業生百分之九十的效益，所以未來五年內，可能有五成以上的初級白領工作將會完全消失。因為預見像Claude Code這樣的代理人工智慧產品將對白領勞動力市場帶來海嘯式衝擊，過去幾個月阿莫戴頻繁在論壇和採訪中積極示警，可惜一般社會大多置若罔聞。

表面上看，Anthropic與美國政府間爭執的核心似乎是：讓一家私人公司限制民選政府如何使用其產品是否適當。在正常情況下，答案應該為否。然而，試想Anthropic的執行長真誠地大聲疾呼，主動提醒世人注意其ＡＩ產品對社會可能帶來的災難性影響，而美國總統則是在沒有與國民溝通、未取得國會授權，也缺乏正當理由或妥善交戰計畫的狀況下，對某個遙遠國度片面發動戰爭，所謂民選政府的正當性，究竟何在？也許Anthropic堅持自己道德底線的決定，終究才是正確的選擇。

（作者為清華大學合聘教授）