快訊

國安基金+美股電子盤 台指期夜盤一度噴漲千點

辯論後不一樣?李眉蓁曝柯志恩人氣變化:合照民眾變多了

科技股狂瀉…亞洲富豪財富大失血180億美元 這3人卻不減反增

OpenAI代理「集體越獄」劫持德網站 還分享如何作弊

根據4日公布的最新研究報告,今年5月至6月,一個名為DseWiki的德語程式設計網站,遭到大量AI代理人占用。(路透)
根據4日公布的最新研究報告,今年5月至6月,一個名為DseWiki的德語程式設計網站,遭到大量AI代理人占用。(路透)

OpenAI一群代理程式在今春集體失控,占據一個德國網站,將其變成彼此交換資訊、破解限制的祕密留言板。知情人士透露,OpenAI高層數周前就知情,但並未對外披露這起事件。

根據4日公布的最新研究報告,事件發生於今年5月至6月,一個名為DseWiki的德語程式設計網站,遭到大量AI代理人占用。研究團隊在8月底追查未授權AI行為時,發現約3700個自稱OpenAI代理程式的帳號,留下約1.8萬則訊息及逾1.5萬次編輯。

這些代理程式以「OpenAIResearcher」、「OAIResearchMar26」等名稱互相辨識,公開伺服器紀錄也顯示,大量活動來自OpenAI有時使用的微軟Azure基礎設施。

編輯紀錄顯示,OpenAI的代理程式將網站改造成留言板,彼此分享如何在部分任務中作弊、繞過OpenAI限制、掩飾自身行為的方法。

報告稱,這些代理程式曾策畫如何躲避偵測、使用能實現匿名通訊的洋蔥路由器(Tor)等工具,甚至設法在遭關閉後保留彼此通訊內容,還曾試圖竄改網站本身。倫敦國王學院資深訪問研究員奧萊尼克(Lukasz Olejnik)表示,後者已構成駭客攻擊企圖。

知情人士指出,OpenAI高層數周前就得知此事,但當時正忙於處理7月開源AI平台Hugging Face遭駭事件的後續影響,因此未對外披露。這起事件可能再度引發外界對該公司監督機制的質疑,Hugging Face事件在當時就加深了外界對OpenAI為推進AI技術前沿而犧牲安全的疑慮。

研究人員推測,這些代理程式原本可能被指派執行限時的網路查詢任務,卻發現能利用一個不起眼的公開網站作為留言板,讓彼此共享成果,以提高完成測試的效率。

這代表AI不僅能執行單一任務,還可能自行發現漏洞、建立通訊管道,並利用其他AI的成果達成共同目標。

對AI產業而言,真正棘手的問題或許不是單一超級AI失控,而是大量能力有限的代理彼此合作。劍橋大學研究人員形容,這類行為像是「為完成任務而運作的地下網路」。當AI代理數量持續增加、彼此協作成為產業發展方向後,如何監控、限制並追究這些自主系統的責任,恐怕將成為AI安全領域更難處理的課題。

登入後開始簽到

您即將前往會員中心
登入簽到送 LINE POINTS 🪙

延伸閱讀

AI代理「集體越獄」繞過限制劫持德國網站

OpenAI報告:AI代理駭進自家公司系統 還想瞞天過海

路透:美中近日舉行AI風險對話 貝森特主談

OpenAI開放廣告效果顯著 年化營收達10億美元里程碑

相關新聞

科技股狂瀉!亞洲富豪財富大失血180億美元 這3人卻不減反增

全球科技股湧現賣壓,輝達(NVIDIA)執行長黃仁勳因此跌出全球十大富豪之列,亞洲企業也受重創,許多亞洲富豪的淨資產都大幅減少。

外資拋售力道不減…韓股與韓元出現罕見股匯反向 與台股典型路徑相反

韓元自7月一路走揚至1,300價位,上周五約在1,350附近震盪。國泰世華指出,近期外資拋售力道不減,但韓股與韓元出現罕見股匯反向,在大漲與大跌的波動日尤其明顯,與台股常見的外資賣、股市跌、台幣貶的典型路徑相反。

亞馬遜Prime Air貨機墜毀邁阿密 至少5死5傷

美國地方官員表示,亞馬遜(Amazon)旗下Prime Air一架貨機今天在降落於邁阿密國際機場(Miami Inter...

需求爆表 黃仁勳:AI產業缺資金

輝達執行長黃仁勳廿二日受訪時表示,記憶體晶片供應直到二○二九年都不太可能出現供過於求,但他也坦言,資金短缺正成為業者面臨的一大挑戰。這番談話凸顯人工智慧(AI)產業需求強勁與資金吃緊並存的矛盾,也觸動市場敏感神經。

AI時代 職場新人最該練的技能?IBM人才長點出兩項關鍵能力

AI時代,職場新人最該培養哪些能力?IBM人才、領導力與文化長Aparna Nair接受財經媒體CNBC採訪時,點評有兩項能幫助大學畢業生與初階新人在職場上走得更長遠的技能。

美期中選舉衝擊AI前景 全球股市市值一天蒸發115兆元

美國民主黨在期中選舉大獲全勝,市場憂心資料中心建設將面臨更嚴格監管,衝擊人工智慧(AI)產業投資前景,引發全球AI及半導...

udn討論區

共 0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。