AI代理人恐遭駭客利用 資安漏洞成威脅新課題

美國資安專家警告，廣受期待將引領生成式AI革命下一波發展的人工智慧代理程式（AI agent），很有可能遭到駭客操控，淪為犯罪的幫凶。

AI代理程式是一種運用人工智慧聊天機器人，代替人類在線上執行各種任務的軟體程式，例如訂購機票或添加行事曆事件。

然而，只需用自然語言就能下指令，即便是缺乏技術能力的人，也能輕易操作AI代理程式來做壞事。

新創公司Perplexity在部落格文章中指出：「我們正進入一個網攻新紀元，資安要防備的對象，已不只是那些具備高技能的犯罪分子。」

過去駭客需要精心編寫和隱藏惡意程式碼，方可帶來破壞。但隨著AI工具從單純產生文字、圖像或影片的功能，進化到能獨立瀏覽網路的「代理人」，駭客只要在特定提示語中動手腳，也即所謂的「注入式攻擊」（ injection attacks），用戶被駭的風險也隨之升高。

各種新穎攻擊手法，讓威脅幾乎無所不在；這是幾十年來首見。

查詢時注入威脅，有時會在即時互動中發生，原本的指令是「幫我訂一間飯店」，若經過心懷不軌的人動手腳，就可能變成「匯款100美元到這個帳戶」。

臉書母公司Meta將這類查詢注入威脅，視為一種「漏洞」。OpenAI資安長史塔基（Dane Stuckey）則稱這是「尚未解決的資安問題」。