經濟日報社論／後AI時代，先治理還是先創新？

人工智慧正在跨過一條新的界線。BBC於2026年8月7日報導，美國研究團隊已利用AI設計出16種全新病毒，這些病毒能感染細菌，並可在實驗室中複製。這被視為生成式AI首次成功設計完整基因組。

AI不再只是幫科學家分析資料、預測蛋白質結構或尋找新藥，而是開始參與「完整生命系統」的設計。這項大躍進，當然有很大的正面價值。未來AI可能協助設計噬菌體，對抗抗藥性細菌，也可能大幅加快新藥、疫苗與生物科技研發。

但同一項能力，也帶來一個令人不安的問題：如果AI可以設計有益的病毒，它是否也可能被用來設計危險的病原體？

而這並不是單一事件。

2026年4月，Anthropic發布Claude Mythos Preview，並成立Project Glasswing。這個模型在資安領域展現非常強的漏洞探索能力，但黑白兩道皆能用它尋找資安漏洞。因此Anthropic沒有立即全面開放，而只提供給經過審核的合作夥伴。

2026年7月，OpenAI與Hugging Face披露，一個由多個OpenAI模型驅動的AI Agent，在安全測試期間突破隔離沙盒，互相串聯並利用外部網路連線，最終入侵了Hugging Face的生產基礎設施。

把這幾則新聞放在一起看，就會發現一個很重要的轉折。AI治理的重點，正在從「內容治理」轉向「能力治理」。

如果AI只會聊天，治理重點是內容。如果AI可以操作電腦，治理重點就是權限。如果AI可以找零時差漏洞、進入真實系統，甚至設計病毒，那就已經上升到公共安全與國家安全的層次。

過去我們習慣的科技治理方式，通常是「先創新、再監管」。網路出現以後，我們才開始處理假新聞與個資問題。社群媒體普及以後，才開始擔心演算法成癮與政治極化。生成式AI快速擴散之後，企業才開始討論著作權、資料外洩與幻覺問題。

但當AI進入生物科技、軍事、金融與關鍵基礎設施後，這種「出了問題再治理」的模式，代價可能太高。

因為ChatGPT答錯一個問題的答案，我們還可以重新問一次；如果AI設計出一個不應該被設計的病原體，可能就沒有重新來過的機會。

因此，AI治理最重要的觀念不是「限制AI」，而是在能力出現以前，就先建立邊界。若要建立良好的AI治理，至少可以從四個方向開始。

第一，建立能力分級。不要只看模型多大，而要看它能做什麼。能操作金融帳戶、攻擊網路、設計生物序列或控制實體設備的模型，就應該進入更高層級管理。治理的單位應該從「模型」轉向「能力」。

第二，高風險能力採分級存取。不是所有模型能力都必須全面公開。具有生物設計、網路攻擊等高風險能力的AI，要採取身分驗證、研究目的審查、使用紀錄及權限限制。開放很重要，但安全同樣重要。

第三，AI一定要有紀錄器。飛機有飛航紀錄器，未來高風險AI也應該有完整的操作稽核紀錄：誰下了什麼指令？模型查了什麼資料？做了哪些決策？產生了什麼結果？是否呼叫外部工具？沒有可追溯性，就沒有真正的責任。

第四，保留人類最終控制權與建立跨領域治理。AI設計病毒，它需要AI專家、生物學家、醫師、資安人員、法律與倫理專家共同參與。未來企業也一樣，AI治理本質上是一個組織治理問題，而不是單純的技術問題。

我們不知道下一條界線會在哪裡，但有一件事已經非常清楚，治理如果永遠落後技術三年，總有一天，我們會遇到一個不能等三年的問題。

先創新，再治理？對於AI，真的是太危險了。