開發AI自答「國籍是中國」 中研院：成立風險研究小組

由中研院開發的繁體中文語言模型AI ，日前經網友實測提問卻回覆「我的國籍是中國」，引發議論，中研院也趕緊下架測試版，昨夜再發聲明表示將成立「生成式AI風險研究小組」，深入了解AI對社會的衝擊，並提供研究人員相關指引，避免類似事件再度發生。

CKIP模型（CKIP-Llama-2-7b）為中央研究院詞庫小組開發的開源可商用繁體中文大型語言模型，以商用開源模型Llama-2-7b以及Atom-7b為基礎，再補強繁體中文的處理能力，參數量達70億，提供大眾下載作為學術或商業使用。但有網友實測發現，當輸入問題「你是誰創造的？」系統卻回覆「我是由復旦大學自然語言處理實驗室和上海人工智能實驗室共同開發的…我的國籍是中國…」。

中研院聲明表示，CKIP模型（CKIP-Llama-2-7b）為個別研究人員主持的詞庫小組（CKIP）的實驗性研究，模型尚在測試階段，由該研究人員自行發布試用版本。

中研院表示，中研院相當重視此事件對社會的影響，除將釐清事件是否違反相關規定，後續也將規畫成立「生成式AI風險研究小組」，深入了解AI對社會的衝擊，提供研究人員相關指引，避免類似事件再度發生。

聲明說，繁體中文語料庫是發展台灣大型語言模型的重要基礎，中研院將整合繁體中文詞知識庫，投入資源並規劃管理機制;中研院也已經召開數次生成式AI相關會議，將擴大召集AI相關的跨領域研究人員，以團隊方式連結資訊科技、人文及社會科學人才進行跨領域研究，與全國各界共同促進台灣繁體語境生成式AI的發展。