駭客濫用生成式AI助長社交工程攻擊 資安防禦更艱辛

趨勢科技針對AI世代的資安威脅與風險管理，指出勒索病毒進化、資料外洩問題、網路釣魚、商務電子郵件入侵（BEC）是現今企業正面臨的四大資安問題。近年生成式AI技術發展快速，不僅企業開始或準備導入生成式AI技術以強化營運效率，生成式AI也成為駭客進行不法攻擊的幫手。企業除了須面對原本待解決的資安難題外，更陷入駭客社交工程攻擊手法更加快速演變及攻擊面不斷擴大的窘境。全

趨勢科技指出，生成式AI助長了駭客使用社交工程的效率，企業尤須留意網路釣魚及商務電子郵件入侵事件發生。透過生成式AI，駭客在傳送惡意郵件和訊息時沒有了語言翻譯問題，同時能避免文法和用字錯誤，文字內容比過往更加真實，甚至能「自動化」地搜集目標資訊來發動更個人化的網路捕鯨（Whaling）瞄準企業高層，而這些情況將難以再單純透過教育訓練的方式來減緩發生。

除此之外，安全認證工具技術也成為駭客的目標，如近幾年常見的多重認證轟炸（MFA bombing）/多重認證疲勞（MFA fatigue），即是駭客發送多次驗證通知給裝置使用者誘使其點擊同意以通過驗證，企業應對此更加留意。

趨勢科技台灣區總經理洪偉淦表示，企業通常因受到法令規範、供應鏈要求或遭遇資安事件驅使而開始重視資安。而近年供應鏈資安問題嚴峻，根據趨勢科技威脅研究中心，2023年就有超過一半(52%)的企業表示其供應鏈夥伴曾遭受勒索病毒攻擊，加上全球組織部署生成式AI和其他數位工具以獲得更大的競爭優勢的趨勢，企業除了原先的資安問題，還需煩惱生成式AI所帶來的存取權限控管、指令注入(prompt injection)、AI政策規範等新興挑戰。因此如何管理攻擊面、保有資安可視性和制定AI相關應用規範將是維護組織整體資安態勢的重要關鍵。