國戰會論壇／美中科技戰白熱化「生成式AI」戰爭的人類末日

2023-12-15 15:52 聯合新聞網／獨家報導新聞網

「拜習會」難緩解雙方之間的科技戰持續競爭，去年開始美國對中國實施出口管制，試圖全面切斷先進晶片的所需資源，從關鍵零組件到生產設備一律阻絕。

【文．蔡炫】

美國總統拜登與中國國家主席習近平11月在美國舊金山舉行「拜習會」試圖「穩定」彼此關係，卻難緩解雙方之間的科技戰持續競爭，去年開始美國對中國實施出口管制，試圖全面切斷先進晶片的所需資源，從關鍵零組件到生產設備一律阻絕；美國通過520億美元的晶片與科技法（Chips and Science Act）目的在於整體提振本土半導體實力，也讓人工智慧（AI）聊天機器人ChatGPT背後依賴的「生成式 AI」，可能成為美中科技戰白熱化的新戰線。

「生成式 AI」成為拜登政府考量可以促進中國軍事現代化的「國防科技」，人工智慧已被兩國視為關鍵技術，聯合國開始發聲支持設立國際機構監管人工智慧，如同「禁止核子擴散條約」（NPT）的成員國共同監督模式；我們不禁要問難道AI比核武危險？光以發展純熟的深偽（Deepfake）技術來看，一旦運用在軍事作戰，包含現有聊天機器人、語音複製、深偽影像等將對全球構成嚴重威脅。

聊天機器人到戰鬥機器人

ChatGPT聊天機器人在武器應用恐將進入戰鬥機器人，美國率先呼籲國際訂定AI軍事應用準則，目的在於敦促各國在遵守國際法規前提下推展AI應用，說穿就是確立共同安全機制，確保人類必須掌握「武器主導權」；一旦戰鬥機器人掌握核武，自行決定軍事用途，恐將釀成第三次世界大戰。

以俄烏戰爭而言，這場戰役充分展現無人機的攻擊優勢，假如能在無需人力操控的情況下進行辨識、選擇、攻擊目標，勢必成為下個階段的軍事作戰科技模式，相信世界各國未來也將投入人力物力積極研發；當烏克蘭已有發展AI技術的「半自主攻擊無人機」以及「反無人機武器」，完全自主執行任務的「殺手無人機」（killer drone）勢必成為新式戰爭型態。

語音複製到輿論操控

美國智庫「蘭德公司」（RAND）報告指出中國研究人員正企圖利用「ChatGPT」等生成式人工智慧操縱全球輿論，採取一種混合真實的「合成資訊」誆騙世人，從2005年起開始運用科技操縱特定國家區域的境外輿論，鋪天蓋地用在國際社群當中，強化語言模型說服力道；除了語音複製欺敵戰術，還能透過輿論操控達到軍事目的。

以中國嚴密的資訊審查與管控媒體為例，早將資訊戰視為「武器化」的軍事應用，尤其AI大型語言模式可嫁接與國際上的文化鴻溝，只要內部擁有足以訓練的相關數據，輕易就能針對國際議題形成特定輿論而不被偵測；當中共透過生成式AI工具替人民解放軍形塑大量人設以及相同觀點進行網路作戰，「議題帶風向」如同二十世紀六十年代在海峽兩岸所出現的「空飄傳單」進階到「網飄傳單」。

深偽影像到認知作戰

ChatGPT深偽影像升格為軍事心戰應用並在網路世界遂行認知作戰，AI技術在科技戰爭策略上成為製造衝突利器，例如呈現家屬在斷垣殘壁中搜尋倖存者的影像、大量飛彈炸毀建築、違反人道攻擊醫院等，目的在於獲得龐大露出點擊尋求支持，強化戰爭國家之間的仇恨情緒；一旦有了這類虛假影音撩撥人性本質的焦慮衝動，平民在淺移默化中都能成為認知作戰的傳播媒介。

從以哈衝突來看，這類深偽影像已經創造數以百萬的瀏覽量，例如浴血棄嬰、街道死屍、虐待平民等，部份是以AI深偽技術合成，根據美聯社報導當中有的眼睛閃爍著不自然光芒、手指刻意彎曲以及身形極不自然；目的僅是軍方宣傳工具，在於吸引「意見領袖」作為傳播管道。

AI引領「人類末日」勢必始於戰爭，威脅人類生存的具體災變源自科技始終來自人性，ChatGPT去年點燃的AI熱潮，隨即從生活應用迅速進入軍事科技領域，稍有不甚恐將引來文明浩劫；尤其「生成式AI」恐將成為美中科技戰白熱化的新戰線，一旦軍備競賽全面引爆也將促成聊天機器人、語音複製、深偽影像等對全球構成嚴重威脅。

ChatGPT聊天機器人在武器應用恐將進入戰鬥機器人，走入完全自主執行任務的「殺手無人機」（killer drone）；透過生成式人工智慧操縱全球輿論，進階到「網飄傳單」輕易達到說服；深偽影像升格為軍事心戰應用並在網路世界遂行認知作戰，目的在於吸納第三方的「意見領袖」強化傳播效力，因此必須制定一套公認有效的「監管法案」才能降低AI末日降臨機率。

歐洲聯盟12月8日已經推出首項人工智慧AI監管法規的協議草案，針對ChatGPT「生成式AI」科技等生物辨識系統等技術應用範圍，訂立監管罰則與保障措施等治理架構，企圖讓法規跟上科技以免造成全球危機；歐洲這套監管法規開宗明義制定罰則防止AI侵犯人權，相較美中陸續宣佈管理AI技術的行政命令及管理辦法，今年相互積極爭取AI領域主導權，歐盟不僅需要別於國家競爭，還要跳脫地緣政治的意識形態，落實世界維和層次，才能真正避免「生成式AI」戰爭的人類末日，迎來科技烏托邦的理想化境界。

※以上言論不代表獨家報導集團立場※