快訊

撞斷巴爾的摩大橋!貨輪21名船員慘困船上 7周來與世隔絕

新北新莊露天停車場外驚見男屍!身旁塑膠袋有2瓶鹽酸

LIVE直擊/2024金曲獎入圍名單(不斷更新)

中研院AI稱領導人是習近平遭下架 廖俊智:事後才知道

中研院開發的繁體中文語言模型AI,日前經網友實測提問卻回覆「我的國籍是中國」,引發議論,中研院院長廖俊智今天表示,研究員已深切反省,中研院也已學到正面教訓,除趕緊下架測試版,也將成立「生成式AI風險研究小組」,避免類似事件再度發生。記者胡經周/攝影
中研院開發的繁體中文語言模型AI,日前經網友實測提問卻回覆「我的國籍是中國」,引發議論,中研院院長廖俊智今天表示,研究員已深切反省,中研院也已學到正面教訓,除趕緊下架測試版,也將成立「生成式AI風險研究小組」,避免類似事件再度發生。記者胡經周/攝影

中研院上周釋出了類似CHAT GPT的大型語言模型CKIP-Llama-2-7b,並將其放上公開平台提供學術和商用。卻被使用者踢爆採用簡體中文版的資料庫,導致使用者詢問「國家領導人是誰」,得到「習近平」的答案。中研院發現出包後,三天內便將此一語言模型下架。中研院院長廖俊智今赴立院業務報告時,多位立委詢問此事,廖俊智坦承是該研究員「求好心切」自行發布試用版本,他也是「事後才知道」。

立委萬美玲指出,此一模型語言模型經網友測試,回答我國最高領導人是習近平,並自述是由復旦大學自然語言處理實驗室和上海人工智能實驗室共同開發,居住地在上海人工智能實驗室服務器集,「這是抄襲對岸研究成果?」

廖俊智回應,、CKIP模型(CKIP-Llama-2-7b)為中研院個別研究人員主持的詞庫小組(CKIP)的實驗性研究,模型尚在測試階段,該名研究員「求快心切」自行發布試用版本,他也是事後才知情。

繁體中文語料庫是發展台灣大型語言模型的重要基礎,中研院也準備整合繁體中文詞知識庫,投入資源並規劃管理機制。此一出包的CKIP模型屬中研院內部計畫,目的是要協助研究人員自動化分析和建構中國明清朝代人物的生平圖譜。廖俊智表示,該研究員先拿到30萬經費做測試,但此一經費不足以搭建繁體中文詞庫,因此先找了大陸的簡體版詞庫來測試。

中研院日前已發表聲明,相當重視此事件對社會的影響,將釐清事件是否違反相關規定。後續將規劃成立「生成式AI風險研究小組」,深入了解AI對社會的衝擊,提供研究人員相關指引,避免類似事件再度發生。但萬美玲表示,此一風波代表中研院「螺絲鬆了」,認為中研院研究員的研究一但公開便代表中研院,此一系統三天就下架,中研院鬧了笑話。

立委黃國書指出,中研院目前有六個計劃跟「生成式AI」有關,經費達一千多萬。廖俊智表示,據他了解,這六個計畫並未使用中國大陸的資料庫,他保證會跟相關計畫的研究員提醒。

至於發展「台版ChatGPT」,廖俊智表示, 國科會正整合國內學研力量並與業界合作,打造可信任生成式AI對話引擎「TAIDE」,中研院很多研究員參與此一計畫。

立委陳培瑜則擔心,生成式AI在歐美引發許多版權問題,中研院對此是否有所準備。中研院回應,AI版權問題目前仍在法律釐清的階段。

廖俊智

延伸閱讀

同仁尋短…中研院成立工作坊 辨識研究人員情緒波動

中研院AI語言模型中國觀點 廖俊智:研究員已深切反省

中研院開發AI語言模型出包 中研院長:已學到正面教訓

習近平會普亭有影 一帶一路論壇將於北京舉行

相關新聞

缺工缺料…衝擊前瞻軌道建設 非軌道工程也受災

交通缺工缺料問題嚴重,各地公路、捷運工程進度大受影響,尤其政府推動前瞻計畫,軌道建設更成重災區;雙北捷運局都說,缺工缺料...

桃園頻停電 台電:供電有長程規畫、至2030年發電可淨增910萬瓩

桃園市近期頻繁發生停電事故,台電供電能力因此遭到更多質疑,台電今日對此表示,新增機組發電量高於退役的機組,遠程看到203...

【重磅快評】台灣能源轉型卡關了?

時序過了立夏,霧季接近尾聲,日照時間增加,照理說供電應該趨於穩定,但現況不然,無預警停電頻率增加,民眾的不便明顯增加,根...

4月出口低於預期但連6紅 近期展望如下了雨綠肥紅瘦

財政部今(8)日公布4月海關出口統計,4月出口374.8億美元,較上月減 10.4%,較上年同月增4.3%,雖相比去年同...

賴清德出席工總理監事交接 理事長潘俊榮首提:建議政府考慮核能

工業總會今舉行理監事交接,準總統賴清德也應邀出席,新任理事長潘俊榮表示,工總與政府應該一起為企業界、產業界解決問題,而目...

放寬萊劑交換? 我爭取鳳梨、芒果輸美

台美二十一世紀貿易倡議第二階段談判昨落幕,行政院經貿談判辦公室總談判代表鄧振中說,因鳳梨、芒果出口受大陸經濟脅迫,須打開...

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。