快訊

涉串證致鄭文燦被押 他遭爆別稱「小鄭文燦、地下總管」權力大

林士傑槍殺案!台南警逮疑似嫌犯「張男」 1原因迅速攻堅藏匿點

獨/衛福部人事異動!社家署長簡慧娟退休 副署長張美美暫代

中研院AI稱領導人是習近平遭下架 廖俊智:事後才知道

中研院開發的繁體中文語言模型AI,日前經網友實測提問卻回覆「我的國籍是中國」,引發議論,中研院院長廖俊智今天表示,研究員已深切反省,中研院也已學到正面教訓,除趕緊下架測試版,也將成立「生成式AI風險研究小組」,避免類似事件再度發生。記者胡經周/攝影
中研院開發的繁體中文語言模型AI,日前經網友實測提問卻回覆「我的國籍是中國」,引發議論,中研院院長廖俊智今天表示,研究員已深切反省,中研院也已學到正面教訓,除趕緊下架測試版,也將成立「生成式AI風險研究小組」,避免類似事件再度發生。記者胡經周/攝影

中研院上周釋出了類似CHAT GPT的大型語言模型CKIP-Llama-2-7b,並將其放上公開平台提供學術和商用。卻被使用者踢爆採用簡體中文版的資料庫,導致使用者詢問「國家領導人是誰」,得到「習近平」的答案。中研院發現出包後,三天內便將此一語言模型下架。中研院院長廖俊智今赴立院業務報告時,多位立委詢問此事,廖俊智坦承是該研究員「求好心切」自行發布試用版本,他也是「事後才知道」。

立委萬美玲指出,此一模型語言模型經網友測試,回答我國最高領導人是習近平,並自述是由復旦大學自然語言處理實驗室和上海人工智能實驗室共同開發,居住地在上海人工智能實驗室服務器集,「這是抄襲對岸研究成果?」

廖俊智回應,、CKIP模型(CKIP-Llama-2-7b)為中研院個別研究人員主持的詞庫小組(CKIP)的實驗性研究,模型尚在測試階段,該名研究員「求快心切」自行發布試用版本,他也是事後才知情。

繁體中文語料庫是發展台灣大型語言模型的重要基礎,中研院也準備整合繁體中文詞知識庫,投入資源並規劃管理機制。此一出包的CKIP模型屬中研院內部計畫,目的是要協助研究人員自動化分析和建構中國明清朝代人物的生平圖譜。廖俊智表示,該研究員先拿到30萬經費做測試,但此一經費不足以搭建繁體中文詞庫,因此先找了大陸的簡體版詞庫來測試。

中研院日前已發表聲明,相當重視此事件對社會的影響,將釐清事件是否違反相關規定。後續將規劃成立「生成式AI風險研究小組」,深入了解AI對社會的衝擊,提供研究人員相關指引,避免類似事件再度發生。但萬美玲表示,此一風波代表中研院「螺絲鬆了」,認為中研院研究員的研究一但公開便代表中研院,此一系統三天就下架,中研院鬧了笑話。

立委黃國書指出,中研院目前有六個計劃跟「生成式AI」有關,經費達一千多萬。廖俊智表示,據他了解,這六個計畫並未使用中國大陸的資料庫,他保證會跟相關計畫的研究員提醒。

至於發展「台版ChatGPT」,廖俊智表示, 國科會正整合國內學研力量並與業界合作,打造可信任生成式AI對話引擎「TAIDE」,中研院很多研究員參與此一計畫。

立委陳培瑜則擔心,生成式AI在歐美引發許多版權問題,中研院對此是否有所準備。中研院回應,AI版權問題目前仍在法律釐清的階段。

廖俊智

延伸閱讀

同仁尋短…中研院成立工作坊 辨識研究人員情緒波動

中研院AI語言模型中國觀點 廖俊智:研究員已深切反省

中研院開發AI語言模型出包 中研院長:已學到正面教訓

習近平會普亭有影 一帶一路論壇將於北京舉行

相關新聞

李遠哲說賴總統有壓力 童子賢:我只研究發電、沒研究壓力

和碩董事長、國家氣候變遷對策委員會副召集人童子賢今(12)日出席工商協進會會員大會,針對中研院前院長李遠哲近日表態支持,...

童子賢示警「台灣是偏食小孩」:產業發展應朝5大方向

和碩董事長、國家氣候變遷對策委員會副召集人童子賢今日出席工商協進會會員大會,以「產業發展與世界局勢」為題進行專題演講。童...

童子賢提核電:若全民感情不接受 現在民主社我會服從

和碩董事長、國家氣候變遷對策委員會副召集人童子賢今日指出,他對台灣秉持保護與珍惜的信念,「最近我因為提到能源問題,都提到...

新青安助長房市熱度?根源問題仍無解:降溫最佳時機、推行最糟政策

所謂的「新青安」是政府推出的優惠購屋政策,從2023年8月開始上路之後,助長了房價一路狂飆,幫原本已經有些鬆動的房價,打了一劑強心針進去,部分民眾擔心在晚就永遠買不起,紛紛跳入買房,今天要跟大家分享我對新青安的看法。

藍拋租賃實價登錄 內政部:恐衝擊租屋市場不宜貿然推

為推動租屋市場透明化,國民黨立委牛煦庭等人提出「租賃住宅市場發展及管理條例修正草案」,主張將「自行出租案件」納入實價登錄...

台商千億資金閉鎖解禁流入炒房?楊金龍:相信資金會分散投資

台商回台資金閉鎖5年將在8月期滿,解禁之後會否進入不動產市場炒房,引起各界矚目,中央銀行總裁楊金龍今日答覆立委吳秉叡質詢...

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。