金管會出手管三大金融AI風險！高風險決策恐禁全自動

AI監理將進入新階段。金管會規劃把「可程式化AI」、「代理AI（AI Agent）」、「AI風險分類」等新科技，全面納入現行金融業AI指引，顯示金融AI監理將從過去原則式規範，逐步走向分級治理與動態監控的新架構。

金管會主委彭金隆7日將赴財委會報告金融科技政策，未來推動五大重點，提升金融資安韌性、建立金融業與VASP（虛擬資產服務商）常態溝通機制、發展可程式化AI、因應代理式AI（AI Agent）發展，及建立AI風險分類框架。

其中，最受矚目的就是三大AI監理方向。一是「可程式化AI」。簡單來說，就是建立「AI管AI」制度。

未來金融業若大量導入AI模型，將透過另一套AI治理程式，自動檢查AI模型是否符合監理規範、評分是否合理、風險是否異常，建立可量化的AI風險管理機制。

例如銀行未來若利用AI做線上信用評分，可程式化AI就能同步監測模型是否出現偏誤、歧視或風險失控，等於從過去「人管AI」，進一步邁向「AI管AI」。

第二是「代理AI（AI Agent）」監理。金管會指出，代理AI具備目標導向、任務規劃、多步驟執行、可呼叫工具及跨系統存取資料等能力，未來不再只是提供建議，而可能直接替客戶執行金融任務。

代理AI與一般生成式AI最大差異，在於它不只會「回答」，還會進一步「執行」，因此未來真正監理重點，將落在執行端風險控管。

業者指出，由於金融業涉及資金移轉、授信、投資與個資安全，屬高度監理產業，代理AI未來大概率仍會採「人機協作」模式，關鍵決策與責任歸屬仍須由真人負責。

目前台灣金融業尚未正式導入可獨立執行業務的AI Agent。市場預期，未來一到兩年內，也不太可能出現完全脫離真人管理、自主運作的金融代理AI。

第三則是建立AI風險分類制度。據了解，金管會將依不同AI應用風險高低，建立分級管理架構。

未來部分高風險AI應用，可能要求不得完全由AI自主決策，仍須保留人工介入。例如涉及重大金融決策、人權保障等領域，若AI風險值過高，就可能限制完全自動化。

換言之，未來金融業AI發展，不再只是「能不能用AI」，而是進一步走向「哪些能交給AI、哪些必須由人決定」。

隨AI從生成式、對話式，快速進步到代理式，現行金融業AI指引已難涵蓋新型態風險。金管會這次同步納入三大AI治理方向，也代表金融監理思維，正從過去鼓勵AI應用，正式邁向「AI治理時代」。