快訊

黃仁勳下台後輝達首份財報報喜!營收翻倍、展望上修 股價盤後漲2%

黃仁勳表態願回鍋 輝達董事說不考慮

闕志克/為何政府應監管AI?

今年四月,Anthropic名為Mythos的大語言模型展現了在此之前只有高端駭客才具備的「漏洞發現、分析與運用」的全流程能力,不僅能夠找出成千上百個潛藏多年於主流作業系統與網路瀏覽器中的零日漏洞,並且可有效運用作成攻擊,甚至還能借助密碼分析技術改良攻擊商用加密軟體的手法。

七月中,OpenAI在內部測試一個大語言模型的網路攻擊能力時,調用了上千個自主智能體,結果竟然入侵外部網站。分析發現,由於該模型無法成功破解某試題,便決定劍走偏鋒上網搜尋可能方案。為此,它先侵入OpenAI基礎設施中的某個服務以便連上互聯網,再建立了一個可供智能體之間共享信息與協同運行的隱蔽通信通道,最後利用多組偷來的憑證駭入Hugging Face平台,成功取得原試題的解方。

到了九月,OpenAI宣稱它用了超過一萬個智能體,花了一千三百億個詞元,在八十八個小時內解決了千禧年大獎的難題之一。這三個案例顯示先進大語言模型在特定領域的推理能力已超越頂尖專家;它們尤其擅長在體量龐大的答案空間中進行搜索,從而找到滿足各式各樣複雜約束條件與要求的最佳解答。這些發展促使Anthropic執行長阿莫戴提出對大語言模型作強制測試與政府監管的倡議,不少科技巨頭也迅速聲援,至此美國最重要大語言模型的前沿實驗室達成了難得的共識。

但異議的聲音也有,尤其是有關政府監管的倡議,如輝達的黃仁勳和Meta的祖克柏。有趣的是,川普政府與中國政府皆因考量未來兩國AI產業的競爭力,堅持反對的態度,雖然今天所有中國大語言模型都必須先跟政府註冊並通過檢測才能發行。

AI可能帶給人類社會三種巨大傷害。第一,生成式AI的廣泛採用帶來了失業問題、教育問題、以及類似社交媒體所引起但威脅更大的心理健康問題,將對社會產出劇烈衝擊。第二,邪惡團體濫用大語言模型的能力產製核子、生化或駭客攻擊武器,造成大範圍的實質破壞。第三,當大語言模型的智力遠超過人類而不再完全受控時,人類文明可能面臨滅絕的危機。

阿莫戴提案包含三個監管元素。首先,政府針對模型濫用防範、模型防盜保護以及智能體工具調用的沙箱機制,訂定統一標準並強制檢測。其次,大語言模型應定期接受獨立第三方機構評估審查,這些機構對模型訓練過程中內部系統與流程的存取權限,應與公司內部風險評估團隊一樣。最後,當大語言模型的能力達到特定水平時,負責開發的公司不得發行部署,甚至應停止增強該模型,直到相應的安全防護技術證明到位,這樣才能阻止大語言模型擺脫人類控制,自行其是,從而造成對人類文明不可挽回的戕害。

這提案的主要爭議在於政府監管是否絕對必要。支持者最有力的論點是:因為大語言模型很可能影響整個人類命運的走向,所以該技術發展應用的廣度與速度應交由人民選出的政府決定,而非幾間私人公司的CEO手上,因為這些CEO畢竟未必時時將全人類的利益放在首位。核子技術的管制以及禁止應用基因編輯於人類改造,都是同樣邏輯的產物。

當然,政府監管不是萬靈丹,關鍵是確保人類開發出來的安全防護檢測技術夠強,足以節制大語言模型。但是,一旦大語言模型與人類之間的智識差距變得有如博士與幼稚園兒童時,能否永遠確保此關鍵就很難講了。

(作者為清華大學合聘教授)

OpenAI Anthropic 密碼 語言模型

【即將截止】登入簽到

現在還來得及!最後機會🚀
每日簽到送 LINE 點數
玩遊戲抽 7-11 禮券🎁

延伸閱讀

OpenAI執行長奧特曼:AI好處遠大過風險

黃正忠/聽得進與聽不進的AI

不聽美企喊放慢?日媒:大陸AI開發仍在加速 9月推出16個新模型

李家同/政府對AI發展應有的認識

相關新聞

李翔宙/以三個「看清」走出兩岸和平之路

日前,為紀念國父誕辰一百六十周年,兩岸發展研究基金會邀集逾二六○位專家學者發起「兩岸和平倡議」,主張以和平為最高優先,尊重同屬中華民族的歷史脈絡與兩岸分治現實,以協商取代對抗。和平不是某一黨派的專利,而是台灣社會的最大公約數。檢視這份倡議,可從三個「看清」入手。

林一平/消失的八張椅子

耶路撒冷的夜晚,燈火依舊璀璨。三千年前的曠野,猶太人的祖先在風沙中尋找應許之地;三千多年後,以色列總理內唐亞胡(Benjamin Netanyahu)卻在國會席次表上,焦慮地尋找八個座位。

黃齊元/檢討美國選舉 調整台灣政策

美國期中選舉共和黨大敗,結果並不令人意外,但連傳統紅州都被藍潮淹沒,顯示選民價值觀改變。川普倒行逆施,尤其美伊戰爭帶動通膨,直接影響民生。其次是AI過度發展引起貧富失衡,大財團是贏家、市井小民是輸家,導致財富「擁有者」和「沒有者」的利益之爭。

陳力俊/AI對科學研究的衝擊

OpenAI十月六日公布超過七百篇數學研究預印本,聲稱對三七二組相關問題取得進展或提出解答。數學家仍在努力消化這對他們學科的意義。

潘襎/黃仁勳案考驗AI時代人性價值

最近黃仁勳婚外情與間諜疑雲,舉世關注。間諜與否爭議,涉及層面甚巨,尚難定論。歷史上間諜傳聞屢見不鮮,有真有假,有冤案有假案,幕後操縱者使用最小成本,用人性弱點達成最大傷害敵人的目的。

廖元豪/「一人否決」已從例外變常態

不出所料,行政院長卓榮泰再一次動用舉世罕見的絕招「不副署」,否決了立法院三讀通過的老人福利法,理由還是跟前八個被否決的法案一樣,就是說這樣的立法破壞財政紀律,侵害行政權。一言以蔽之,立法院毀憲亂政,所以我不副署。

udn討論區

共 0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。