「養龍蝦」引發AI代理資安疑慮 TrendAI 新品助企業有效管理 AI 代理

全球工作者瘋迷「養龍蝦」，擴大AI自主代理互動的權限，但引發高度資安疑慮。全球網路資安解決方案業者趨勢科技旗下全球企業AI資安品牌TrendAI宣布推出TrendAI Agentic Governance Gateway。這是一項全新資安解決方案，為企業提供對自主代理（autonomous agents）互動的可視性與控管能力，強化在資料、工具與多元環境間高度自主運作下的整體資安防護，協助企業安全導入代理式AI

趨勢科技企業事業群營運長金敬秀表示，OpenClaw這類工具展現了新型AI模式的強大與普及性，企業因此需要部署系統以釋放下一波生產力提升。但許多企業已經在使用，卻缺乏集中化的治理機制。

傳統資安主要聚焦於端點、網路與應用程式的防護；代理式AI則是在動態互動鏈中運作，代理、模型、API與資料之間持續交換資訊並觸發行動。

趨勢科技執行長陳怡樺表示，AI系統日益自主化，資安必須從防護進化為治理。這正是資安的下一個前沿，也是TrendAI的核心關注。

自主代理可跨越企業系統執行任務，但缺乏明確的安全控管節點。今年NVIDIA GTC大會中已開始發現這類全新的攻擊面正式浮現，而傳統資安模型並未針對此類風險設計：包括OpenClaw在內的自主代理框架，正加速企業導入能以如機器速度般進行規劃、執行與協調的AI系統。對企業而言，理解並治理這些代理系統的行為與決策，已成為前所未有的重要課題。過去，要監控這樣的攻擊面，往往需要在企業系統之間進行複雜且多步驟的流程整合。

研調機構Forrester指出，AI代理正迅速滲透至各類工作流程。這些代理具備動態推理能力、短暫身分以及以目標為導向的自主性，導致攻擊路徑難以預測。代理架構的風險包括意圖劫持(intent hijacking)與連鎖式幻覺(cascading hallucinations)，影響層面已從機密性擴展至完整性與可用性。若缺乏適當防護，企業將面臨違反法規、財務損失及資料外洩等風險。

TrendAI Agentic Governance Gateway表示，協助企業掌握代理在不同系統間的互動狀況；理解代理溝通背後的脈絡與意圖，識別潛在風險或非預期行為；對代理驅動的行動進行政策控管與執行；在關鍵決策點導入人工監督機制；在部署前模擬治理決策，預先檢視完整的政策影響，但先不實際執行；透過管控生命週期，進行治理設定的部署、預覽與回溯。

透過這些先進能力，TrendAI協助企業保護關鍵的「互動層」—也就是自主系統進行協作、決策並推動企業行動的動態溝通基礎。藉由在此關鍵層建立完善的監控與控管機制，確保代理式的互動具備可視性、可治理性與可信度，進而有效填補代理式AI環境中的資安缺口。