周韻采／AI與戰爭的距離

飛往中國大陸的美國空軍一號專機，硬是途中把在阿拉斯加會合的輝達（NVIDIA）執行長黃仁勳接了上去。特斯拉總裁馬斯克、蘋果執行長庫克與黃仁勳偕同川普總統訪中，透露了半導體與ＡＩ智能發展，是中美編織的交響曲中一道主旋律。

除了特斯拉、蘋果和輝達都希望能進一步擴大中國市場准入外，高度及快速發展的ＡＩ應用，使得高科技廠商與政府必須在ＡＩ開發上展現「建設性的策略穩定關係」，以確保ＡＩ不會進入戰爭或生化恐攻等領域，影響人類安全。

英國ＡＩ安全機構最近發現通用的生成式ＡＩ如ChatGPT、Gemini或Claude已可準確地寫出合成病毒與細菌的配方；美國的蘭德研究所也發現，這些模型已可展示合成小兒麻痺症病原的ＲＮＡ。

OpenAI、Google及Anthropic恐無法把關自家生成式ＡＩ，阻斷其教會一個普通人製造細菌或病毒的可能性，這意味著生化恐怖分子可以輕易地透過生成式ＡＩ取得重要資訊以製造病原。

另在今年初，美國防部宣布禁用Anthropic旗下的Claude產品，因為Anthropic不願撤除植入在產品內的兩條紅線：一是禁止發展自動武器；二是禁止大規模監控人民，這顯示ＡＩ已有強化戰事之能力。Anthropic並承認另一產品Mythos已有能力破解軍事網絡的漏洞，造成的破壞力遠超原子彈，故不適宜公開。由此我們可以看出，美國軍方已十分積極運用ＡＩ於軍事裝備與策略推演，提升對戰機能與效率。

儘管生成式ＡＩ會產生幻覺或媚俗言論，但協助製造生化武器的潛力及強化軍事能力仍不容小覷。同時，中美兩國產出的生成式大語言ＡＩ模型已達全世界總量的百分之九十，中美兩國如果同意共同發展治理框架，限縮ＡＩ應用在戰事或製造生化武器的成功機率就會大增。

然而，知易行難。中國此前並未專注於戰事運用，發展已顯落後，故疾呼軍事ＡＩ不能脫離人類控制。而美國關注的焦點則在中國模型如DeepSeek都屬開源模型，反易落入恐怖分子手裡。故美國意欲壓抑開源模型的發展，導致彼此對談時缺乏互信，殊難達成具體成果。

基於過去奠於恐怖平衡而發展的限核經驗，中美雙方應可逐步建構走向管制ＡＩ的共識。首先，雙方應約束業者在完整安全驗證報告出來前，不再釋出新模型，包括現有模型輸出進階生化知識。其次，雙方共組跨國委員會，討論如何管控風險及降低錯誤計算的機率。而為避免任一國家為了取得模型領先而暴衝，應對禁止什麼樣的ＡＩ應用有共識。

第三，雙方可發展一套檢測模型安全性的標準，並共享檢測成果，使得ＡＩ模型缺漏之處可被指認，以供改進或禁止使用。第四，雙方同意由第三方如聯合國查核執行成果，以確保避免具危害性之生成式ＡＩ的擴散。

（作者為元智大學資訊管理學系教授）