快訊

美國國家安全局高機密網路突停擺!情報總監證實:修補重大漏洞釀禍

台灣外送早已脫離價格戰 為何日本還在免運廝殺戰國期

MLB/40人名單大震盪!老虎留住鄭宗哲 割捨前道奇游擊手

川習二會AI過招/美中AI會談 習訪美前談得成?

川習預定9月底再會。圖為川普總統5月訪中時,與習近平在北京人民大會會談。路透
川習預定9月底再會。圖為川普總統5月訪中時,與習近平在北京人民大會會談。路透

大陸國家主席習近平預定9月24日訪美,將與美國總統川普進行川習二會。多方報導與官方公開訊息均證實,AI確實是本次會談核心議題之一。雙方並將在月中先行舉行「美中AI安全官方對話」並預先研擬議題框架。

這也是川普第二任期以來,美中兩國首度就AI議題進行的正式雙邊會談。會談焦點將聚焦在「防範自主AI代理人的威脅」、「前沿模型的監管」以及「資訊共享機制」等。

美財長撂話 AI競賽必贏

在美中AI問題過招中扮演重要角色的美國財政部長貝森特9月8日表示,「若AI輸給中國,一切都毫無意義。」他強調,必須擊敗中國,如果中國在這件事上贏了,就沒有所謂的「明天過後」了,如果他們在AI領域超過美國,那其他一切都不重要了。貝森特的談話勢將影響雙方會談的走向。

15諾獎得主 警告AI風險

而在美中將舉行AI對話的訊息傳出後,包含15位諾貝爾獎得主在內的近200位經濟學家及科技領袖,共同發布「我們必須立刻行動」聲明,警告AI可能帶來大規模失業等社會挑戰。

比爾蓋茲 籲全球共管AI

而一個月後的8月下旬,微軟共同創辦人比爾蓋茲也傳出計畫於今年11月訪問中國,目的就是為了降低AI風險,爭取與習近平會面。

比爾蓋茲主張,各國共同監測AI設計新型分子及發動生物攻擊的能力,並成立新的國際組織管理AI風險,制度可借鑑核查機制、國際航空規範及臭氧層保護協議。他接受MIT科技評論採訪時憂心說:「在人工智慧的生物能力、網路能力、社會心理能力、破壞就業市場的能力,甚至缺乏控制方面,我們已經越過了臨界點。」而他對行業外人士對此缺乏關注和討論感到震驚。

除了蓋茲關注的那些全人類都可能遭遇的普遍性的風險,美中各自都有自身的擔憂。

美頂尖模型 現失控跡象

對於美國,是它的頂尖AI模型已有失控跡象。8月4日,英國人工智慧安全研究所(AISI)披露,在對OpenAI和Anthropic的模型進行測試期間,一個AI代理被發現創建虛假的線上身分,並以此身分在未經授權情況下存取安全系統,這暴露出一系列新的安全漏洞。

AISI透過與各大實驗室的自願協議獲得先進的AI模型,並將這些模型放入虛構的網路安全場景中,以測試它們的能力。這一挑戰運行了112次,在總共10回合的測試運行中,偵別出19起未經授權的行為。其中17起行為是由 Anthropic的智能體執行的,其餘2起則是由OpenAI的智能體執行的。

美國的另一個重大風險源自AI與軍事的結合。今年2月底,伊朗最高領袖哈米尼遇襲身亡;而委內瑞拉總統馬杜羅1月初被美軍強行控制。兩起行動中,據外媒披露,美軍都使用了AI。但據紐約時報報導,7月中旬,美國空軍曾向各大軍事承包商發出一封措辭嚴厲的信函,要求他們在9月1日前必須徹底清除掉所有武器和控制系統軟體中的Anthropic人工智慧產品,但到了8月美軍又撤回這項要求。

此外,美國也擔憂其前沿大模型被恐怖組織用來對付美國。去年11月,眾議院一致通過「生成式人工智慧恐怖主義風險評估法案」,該法案要求國土安全部定期評估和報告涉及生成式人工智慧的恐怖主義威脅。它並授權與情報機構監控ISIS或基地組織等將AI內容生成進行武器化。

至於中國的擔憂,彭博曾在8月初引述知情人士報導說,北京愈來愈忌憚美國AI開發商Anthropic的Mythos及其他前沿模型,恐被用來對付中國,甚至成為具攻擊力的網路武器。而據稱,北京已開始研擬反制措施,一旦美國對中國AI企業有所動作,就會祭出反制措施。

中共憂AI 挑戰政治底線

另一種焦慮是關於其內在體制的。北京雖大力提倡AI,但仍擔憂其生成內容挑戰中共執政的政治底線;同時,它也同時面臨著AI代理人(Agents)是否失控,以至於對社會穩定帶來衝擊的難題。

由於北京與華府都深切關注強大模型對國家安全、軍事應用及關鍵基礎設施帶來的影響,目前傳出的對話核心議題將鎖定在包括Mythos這類先進前沿模型的發布機制,以及美方會否對中國在模型開放權重上施加限制。另,美方官員也表示,對話目標是阻止強大AI模型擴散至非國家行為者,並防範利用AI模型進行網路攻擊風險。

這些議題顯然仍鎖定在美中自身的安全上,並未能關注比爾蓋茲等人擔憂的全人類風險。但美中之間若能因為對話,避免因AI失控走向相互毀滅,仍然是重要的第一步。

訪美 美中 習近平

【即將截止】登入簽到

現在還來得及!最後機會🚀
每日簽到送 LINE 點數
玩遊戲抽 7-11 禮券🎁

延伸閱讀

港媒:川習會前美中經貿談判 擬加入AI議題 1領域或能有進展

日媒:川習會前中方開條件 若美對台軍售 習近平將暫緩訪美

AI新創示警 奧特曼、馬斯克支持控管 市場派與發展派爭論

日媒:傳北京要求美暫緩對台軍售 否則川習會恐生變

相關新聞

觀點論談|黃仁勳離開誰是贏家?輝達接班牽動台灣供應鏈

從二戰美人計、007電影到希區考克經典諜報片,原本只存在電影情節中的美色間諜戰,如今竟牽動全球AI霸主輝達的命運。《紐約時報》專欄作家陶曼琳以辛辣筆調,將黃仁勳、川普與矽谷科技富豪拉進一場現代諜報劇,質疑當科技巨頭與政治權力交纏,企業利益凌駕國家安全,美國還有誰能把關?

讀者QA/黃仁勳華府失語 三道晶片緊箍咒恐掀寒蟬效應

編按:輝達共同創辦人黃仁勳捲入間諜疑雲與婚外情風波,11月12日辭去執行長等所有職務,事件牽動美國國安、公司治理與美中科技競爭。《國際周報》整理讀者提問,由資深國際新聞人郭崇倫解析川普為何倚重黃仁勳、國會兩黨如何藉機收緊晶片出口管制,以及黃仁勳下台後輝達與AI產業的變局。 看點1:黃仁勳捲入國安疑雲黯然下台,輝達在華府的影響力恐大幅削弱,兩黨可能聯手推動「晶片定位追蹤」等嚴苛法案,除了重擊輝達,也讓微軟、超微等AI巨頭的海外布局面臨寒蟬效應。 看點2:輝達權力長年集中在黃仁勳一人,換帥後的接班考驗恐牽動AI融資熱潮,高度仰賴輝達訂單的台灣供應鏈也難置身事外。

美國期中選舉觀測/陸學者憂美中穩定框架鬆動 先求落實既有共識

美國期中選舉民主黨大勝,中國大陸學者認為,這次投票結果反映美國選民對總統川普執政下多項議題不滿,包括伊朗戰爭、高通膨等,既削弱共和黨選舉基礎,也動搖川普要求黨內無條件配合的政治權威;台灣議題方面,大陸學者認為,對台軍售、美台軍事交流及高層互動,可能成為新國會與川普政府交鋒的重點,雙方分歧也可能更加公開。

美國期中選舉觀測/民主黨掌國會劍指輝達 川普對中政策難轉彎

美國期中選舉重劃國會權力版圖,民主黨一舉拿下參眾兩院。輝達創辦人黃仁勳捲入間諜疑雲,又爆出多起婚外情,最終請辭下台,國會可望藉此檢視川普放寬H200晶片輸中的決策,但華府兩位中國問題專家葛來儀與孫韻都判斷,國會能拉高政治成本,卻難讓川普的對中路線大轉彎。美中這段穩定能撐多久、台灣要承受多大風險,才是未來兩年真正的懸念。

美國期中選舉觀測/川普押注個人外交 民主黨國會成美中和解變數

編按:美國期中選舉結果揭曉,民主黨掌控參眾兩院多數,川普政府大敗,川普第二任期的最後兩年施政走向,勢必影響全球政局。本報期中選舉系列分析最終篇,特別關注美中台三邊關係,深入解讀可能關鍵走向。

郭崇倫會客室EP288|戰爭、峰會、晶片 分析期中選後川普外交政策局勢

因應期中選舉結果,美國國內對海外戰事拖延與高油價的不滿,預期川普將積極為伊朗軍事行動尋求體面收尾,同時推動烏克蘭戰局朝向停火協議。本集邀請淡江大學戰略所黃介正副教授,分析川普在後半段任期的外交政策可能的走向。

udn討論區

共 0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。