聊天機器人助罪犯寫程式竊密勒索 AI濫用問題引憂

消費型人工智慧（AI）工具遭濫用的潛在風險日益引發關切，因為新興網路犯罪者似乎能騙過功能含代理編程的聊天機器人，在其協助下製作惡意程式，藉此進行網攻及勒索。

法新社報導，前述犯罪行為被稱為所謂的「氛圍駭客」（vibe hacking），根據美國AI新創公司Anthropic，氛圍駭客標誌出「AI在輔助網路犯罪方面令人擔憂的發展」。

氛圍駭客是從更具正面意涵的「氛圍編碼」（vibecoding）演變而來，後者意指生成式AI工具能協助缺乏相關專門知識的人編寫程式。

Anthropic日前發布「威脅情報報告」（ThreatIntelligence Report），內文特別談到一個案例，「一名網路犯罪者利用（代理編程工具）Claude Code，於短時間內對多個國際目標發動大規模資料勒索行動」。

Anthropic的Claude產品，正與美國AI新創公司OpenAI旗下最知名的聊天機器人ChatGPT競爭。

Anthropic指出，其代理編程的聊天機器人被用於協助執行攻擊，僅最近一個月，可能就有「遍及政府、醫療、緊急服務和宗教機構，至少17個不同組織受害」。

這名攻擊者已遭Anthropic封鎖，但在這之前，此人可用Claude Code創建蒐集個資、醫療紀錄和登入資訊的工具，而工具還能協助傳送索討贖金的訊息，有時要求支付的金額甚至超過50萬美元。

Anthropic承認，儘管採取「先進的安全措施」，目前仍難以完全杜絕這類濫用情事。

在網路安全公司Orange Cyberdefense負責領導電腦應變中心（CERT）的勒拜庸（Rodrigue Le Bayon）說道：「網路犯罪者如今就和廣大用戶一樣充分利用AI。」