中研院開發AI語言模型出包 中研院長：已學到正面教訓

由中研院開發的繁體中文語言模型AI，日前經網友實測提問卻回覆「我的國籍是中國」，引發議論，中研院院長廖俊智今（12）日表示，研究員已深切反省，中研院也已學到正面教訓，除趕緊下架測試版，也將成立「生成式AI風險研究小組」，深入了解AI對社會的衝擊，並提供研究人員相關指引，避免類似事件再度發生。

立法院教育及文化委員會今邀中研院院長廖俊智進行業務報告，中研院詞庫小組AI語言模型，出現中國觀點的回應日前引起軒然大波，成今日多位立委質詢焦點。

廖俊智指出，AI 對社會的衝擊，全世界都在學習中，關於「生成式AI風險研究小組」目前中研院已在規畫中。

CKIP 模型（CKIP-Llama-2-7b）為中央研究院詞庫小組開發的開源可商用繁體中文大型語言模型，以商用開源模型 Llama-2-7b 以及 Atom-7b 為基礎，再補強繁體中文的處理能力，參數量達70億，提供大眾下載作為學術或商業使用。但有網友實測發現，當輸入問題「你是誰創造的？」系統卻回覆「我是由復旦大學自然語言處理實驗室和上海人工智能實驗室共同開發的…我的國籍是中國…」。

中研院指出，CKIP 模型（CKIP-Llama-2-7b）為個別研究人員主持的詞庫小組（CKIP）的實驗性研究，模型尚在測試階段，由該研究人員自行發布試用版本。

中研院強調，中研院相當重視此事件對社會的影響，除將釐清事件是否違反相關規定，後續也將規畫成立「生成式 AI 風險研究小組」，深入了解 AI 對社會的衝擊，提供研究人員相關指引，避免類似事件再度發生。