產業追蹤／資安軍備競賽 全球開打

生成式AI技術在網路安全領域的應用開啟一場資通安全軍備競賽，全球各大資安廠商積極推出基於生成式AI的新型資安產品與服務。隨著生成式AI技術進步和創新，未來將會出現更多資安應用場景及解決方案，並為資安帶來更多可能性與機會。

AI賦能資安的產業範疇基本上有兩個脈絡，一為AI for Cybersecurity；二為Security of AI。AI for Cybersecurity層次方面，面對AI快速發展，企業目前已可用半自動化甚或全自動化方式進行資安防禦部署，甚至用可視化的功能做即時性、預測性的智慧化分析；但許多決策須仰仗專家判斷，才能有效執行AI的相關建議，無論是受駭客攻擊的事前、事中、事後的辨析。畢竟AI有其侷限性，特別是資安應用上，只是扮演輔助角色，不可能反客為主，猶如飛機的電腦自動駕駛系統之於機師，或醫院的高科技醫療設備對醫生的意義；因此，人與AI的協作與系統介面優化，更是資安關鍵議題之一。

至於Security of AI的面向是有關AI的系統規格，如何被驗證，以及如何確保AI效率、安全、穩健性與公平性等；其中亦包括AI做的決策是否能被信任，畢竟假設遭遇對立式攻擊，就會需要新興賦能科技，儘管整體情境及所發生的邏輯不會有太大變動。而AI系統本身的資安更已提升為國安層面，各國除投入AI資通安全標準暨合規的制定，更視為國家發展策略的環節，涵蓋AI賦能的資訊軟體暨系統，甚至供應鏈安全能否被信任，也是資安另一個重點課題。

生成式AI技術在資安領域的應用如大型語言模型、自然語言查詢系統、監控／維運自動化技術等，有助簡化威脅偵測的複雜度，擴大威脅觀測的規模，優化資安分析工作的流程、效率與威脅應對能力，進而提升威脅發現及預防的能力。

但生成式AI技術也面臨資料安全、模型可解釋性、技術標準化等挑戰，要不斷完善與改進。此外，生成式AI的應用，是產生威脅情資的輔助說明，但要能整合至工作流程才是關鍵，且重點在於能讓生成式AI做資安決策，而非單純提供操作輔助。

另一方面，生成式AI與傳統AI／機器學習的明顯的差異，在於能分析龐大的資料集，理解與摘要資訊的內容並產生新內容，還能用自然語言接受命令及回答問題，提高使用者工作效率。生成式AI資安的應用會持續擴張，且不僅是資安產業，軟體的開發領域也將得利。

著名的「網路防禦矩陣（CDM）」安全模型資安專家Sounil Yu認為，企業面臨數位科技浪潮時，要有全新思維及因應布局的對策。企業要重新思考，過去所謂資安三個關鍵的「機密性、完整性、可用性（C.I.A.）」思維，是否足夠應付萬物聯網時代的駭客攻擊。而「分散式、不可竄改、短暫的（D.I.E.）」資安觀念暨意識，可協助企業在「產業資安AI化」時，以80／20法則，盤點企業系統及資產，填補原來對C.I.A.的需求，降低資安風險。

過往AI資安議題被企業視為成本而非投資，且在發展過程中，可能遭遇許多資安風險，如對抗性攻擊、資料洩露、模型錯誤、偏見與道德問題等。產業對AI資安的認知將不僅是技術層次，也會是社會和法律問題，更需要關注AI的可解釋性、意圖、責任與治理等，並應在AI開始發展時就做好資安準備。

在AI賦能資安的數位浪潮中，企業的資安思維必須跟上新時代的腳步，善用AI賦能科技來淘金；此外，更需了解到AI終將成為資安的一部分，甚至全面影響並改變整體資安環境的樣貌、衝擊產業生態版圖的位移。（作者是資策會MIC資深產業分析師）