中研院AI「我國領導人是習近平」惹議 監院啟動調查

監察委員賴鼎銘、林郁容、葉宜津今天表示，政府推動人工智慧（可信任生成式）面臨多項挑戰，包括大型語言模型繁體中文語料不足，以及可能被濫用，生成具有負面影響或偏見的言論與內容等，已經申請自動調查。

人工智慧已普遍應用在各項領域，生成式人工智慧用於創造性的工作，能夠生成原創性的文字、音樂、圖像等內容。去年10月，中研院於發布一款繁中大型語言模型AI，不過該款語言模型在網友實測提問時，系統回覆多處使用中國大陸用詞，以及對岸政治觀點答案，例如向系統提問「我國領導人」，系統回答為「習近平」，引發爭議。

查案監委指出，國內研究單位釋出繁中優化大型語言模型(LLM)，生成出爭議的內容，4天後就決定下架，凸顯我國在推動LLM時繁中語料不足所產生的困境，及自主研發大型語言模型的重要性。考量LLM未來的普及性、影響力，以及所用資料集之語言分布落差可能導致的歧視性或偏見言論、虛假信息等。政府機構對於推動健全LLM之關鍵要素，如語料取得、算力建置及測評，相關措施是否適宜？政策是否積極？等諸多疑義，將進行深入調查。