快訊

義大利番茄卻是中國原料?BBC調查的可疑「血番茄」產品

「電腦王阿達」涉教看盜版影視侵權遭送辦 本人吐心聲:太誇張

25歲月入50K公務員曝理財配置 網看完盛讚「很穩」可安心睡

AI風險管控/AI威脅 恐比氣候變遷更迫切

自美國人工智慧(AI)研究實驗室OpenAI推出生成式AI ChatGPT後,AI前進的腳步愈來愈快,讓科學家憂心AI有朝一日超越人類,造成人類滅絕。AI研究先驅辛頓日前接受路透訪問時說,只要停止碳排,氣候變遷情況就會好轉;但對於AI,人們卻無所適從,AI的威脅甚至比氣候變遷更迫切。

ChatGPT推出後短短2個月內,每月活躍用戶達一億人次,成為史上用戶成長最快的應用程式,之後OpenAI又陸續推出GPT-2至GPT-4等語言模型。但包括OpenAI創始人馬斯克,蘋果共同創辦人沃茲尼亞克及Stability AI執行長莫斯塔克等人,卻聯名警告AI系統能與人類競爭,恐造成政經混亂進而對社會與文明帶來潛在風險。

信中呼籲,所有AI實驗室應立即暫停至少6個月訓練比GPT-4更高階的AI系統。AI實驗室與獨立專家利用這段時間,共同研發、實施共享安全協議,並由獨立外部專家審核、監督該協議。

2018年過世的英國知名天文學家霍金曾說,AI能自行發展,以愈來愈快的速度重新自我設計,人類卻受限於緩慢的生物進化,無法與AI競爭。AI全面發展可能意味人類的終結。

透過深度學習,AI擁有比人類還快的演化能力。AI不似人類會歷經死亡,並更出色地交流知識。AI透過大數據學習而更聰明,這段過程需要更多的資源與資料,不同的AI系統因此競爭資源,這如同生物演化一般,最終可能超越人類。

此外,AI研發進程可概分為弱人工智慧(ANI)、通用人工智慧(AGI)及超級AI三大階段。在ANI階段,由於僅能模仿人類,進行單一且重複性的工作,無法自己做決定,僅引發取代人類工作的疑慮。

牛津大學人工智慧倫理研究所副教授韋麗茲警告,一旦發展到AGI,快速生產的錯誤資訊恐造成政治與社會紊亂。發展到超級AI階段,AI不論科學創造力、智慧、社交,甚至在所有領域都超越人類智慧。這讓人想起電影「魔鬼終結者」,機器人發動滅絕人類的核戰。

辛頓認為,現階段AI還沒有人類聰明,但很快就能走到這一步。這時像俄國總統普亭這樣的領導人若賦予AI創造子目標的權力,AI可能會「創造出我需要更多權力的子目標」,最終帶來生存風險。

美國麻省理工學院的博士後研究員帕克也發現,因為欺騙能更完美地完成人類賦予的目標,AI可能開始欺騙人類。甚至,AI能欺騙研發人員與監管機構設定的安全測試,讓人類產生錯誤的安全感。一旦出現這種不可預測、追求權力、控制社會的AI,恐導致人類滅絕。

早在2015年,霍金、馬斯克、沃茲尼亞克等逾千名專家,就連署警告軍事自主武器充滿危險,軍事AI的軍備競賽是壞主意,人類應禁止使用「不受人類控制」的AI來管理武器。

但AI研究的先驅、加州大學柏克萊分校教授的羅素認為,問題不在於AI擁有自我意識並反抗人類,而是能力。人類恐因疏忽設置錯誤目標,讓AI無意中滅絕人類。

比如,人類設置一個能控制氣候變遷的AI系統,試圖將大氣中二氧化碳水平恢復到工業革命前的水準。經AI分析,人類活動是二氧化碳的主要來源,達成減碳目標的最好方法就是滅絕人類。

為避免滅絕發生,英國國防部限制武器使用與投射,都要有人類的同意。羅素也認為,重點是不要給AI明確目標。

權力 氣候變遷 馬斯克

延伸閱讀

F1/賭城夜賽羅素封王 維斯塔潘獲世界冠軍4連霸

美新政府上任前 TikTok執行長周受資徵詢馬斯克意見

馬斯克引薦多位科技人士會川普 矽谷菁英為何願意棄現職從政?

美國參議員:馬斯克與中國商業關係恐威脅國安

相關新聞

AI風險管控/AI發展殿後 歐盟急推法案

歐盟人工智慧法案(AI法案)8月1日正式生效,是全球首部規範AI開發和應用的法律,歐洲理事會也宣布「人工智慧與人權、民主、法治綱要公約(AI公約)」...

加密貨幣熱潮/加密貨幣飆漲是虛假曙光 還是金融改革信號?

美國總統當選人川普勝選後,加密貨幣應聲飆漲,比特幣一度飆破9萬美元。外媒對此有兩大分析重點,一派認為幣圈是川普大金主之一...

加密貨幣熱潮/比特幣成美國戰略儲備? 點燃全球數位戰場

美國準總統川普繼7月在比特幣會議承諾將建置加密貨幣諮詢委員會,再被美媒披露擬新設專責加密貨幣的新職位「加密貨幣沙皇」(c...

郭崇倫會客室EP188|美中關係將迎新震盪 北京應對變局如何走出活路?

美國準總統川普即將於明年1月20日走馬上任,近來從鷹派外交國安人事安排,到喊出將對所有中國商品額外加徵10%關稅,北京將如何接招?本集郭崇倫會客室邀請聯合報香港特派員李春,來談中國大陸如何回應川普新政。

國際周報

聯合報精選每周國際大事,由資深國際新聞媒體人郭崇倫領讀,帶讀者快速掌握全球局勢變化。

AI風險管控/AI威脅 恐比氣候變遷更迫切

自美國人工智慧(AI)研究實驗室OpenAI推出生成式AI ChatGPT後,AI前進的腳步愈來愈快,讓科學家憂心AI有...

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。