快訊

南韓鋰電池工廠驚傳大火 現場尋獲20具遺體

雨彈升級!雙北大雷雨轟1小時 12縣市豪大雨恐下到晚上

愛子送貨遭捲揚機砸死!父母求償數百萬 「1因素」僅獲賠2500元

MIC 預期未來五年全球AI網路安全市場 規模超過350億美元

AI發展帶來新的資安風險,也驅動防護發展與商機。資策會MIC表示,AI資安威脅有兩類,第一類是AI系統為攻擊目標,包含資料處理階段的資料污染,以及模型部屬後攻擊,情境如模型遭竊導致對抗性攻擊、提示注入導致資料外洩,以及AI蠕蟲,特別是RAG技術可存取企業知識庫,形成新的攻擊途徑,加上AI自主行為情境複雜且管理不易,使得零信任機制面臨極大挑戰。第二類是駭客利用AI進行網路攻擊,如DeepFake、識別系統漏洞、網路釣魚郵件,生成式AI更加速駭客學習新知與開發攻擊程式。

資策會產業情報研究所(MIC)4/16-4/18舉辦第37屆MIC FORUM Spring《智賦》研討會,17日聚焦生成式AI產品應用型態發展,分析AI引發的資安風險與網路攻擊,衍生出的防護發展。

不同的威脅與攻擊樣態衍生不同的資安防護與商機。關注AI資安防護發展趨勢,資策會MIC表示,資安已是國安層面的議題,推動AI監管法規已成為國際共識並逐漸具體化,為此,企業須配合制定策略、流程,產出符合法規要求的評測與透明度報告,驅動可信任AI的流程與技術發展。

資深產業分析師徐暐釗分析,這將涉及AIOps、攻擊偵測、弱點管理與紅隊演練等技術,直接影響AI資安新創的發展方向,觀察過去一年成長最多的AI資安新創,即是AI治理、風險與法遵(GRC)等整合型資安新創,偏重模型開發階段與攻擊偵測的新創公司,也因法遵需求而發展全面性解決方案。

因應AI網路攻擊,資策會MIC表示,AI在網路安全、防護應用具有巨大潛力,特別是應用在四個面向:偵測異常網路行為、強化威脅情資分析能力、強化弱點管理,以及偵測AI生成的文字與圖像詐欺。資深產業分析師徐暐釗綜觀AI強化網路安全商機,預期未來五年內,全球AI網路安全市場規模將超過350億美元。

面對AI資安威脅,員工也是防護的關鍵一環,企業除了採取更主動與動態的安全策略,更須強化員工資安教育與培訓,提高企業對威脅的認識與應對能力。另外,開發者在AI整個生命週期都必須考慮資安,即使AI有強大的工作代理能力,也應避免賦予不恰當的權限。

AI 資安

延伸閱讀

數位部長/黃彥男接棒 唐鳳留言:我放心

曾違證交法判刑 郭智輝任經長惹議

準數位部長黃彥男 扮資安守門人

研調:全球多重勒索攻擊激增 在台鎖定製造業

相關新聞

輝達GB200供不應求 追單封測廠...台鏈大進補

輝達(NVIDIA)以全新Blackwell架構打造的GB200與B系列AI晶片獲得客戶大量導入,呈現供不應求盛況,輝達...

獨家/AI 知道哪開刀流血最少!華碩百億次世代醫療平台將收成

開刀前,AI先掃描病人身體器官,協助主刀醫師判斷從哪裡下刀最不傷患者身體,流血量最少。這是國衛院與華碩(2357)合作投...

宏達電股東會/董事長王雪紅:抓住 AI 和元宇宙的機會

宏達電(2498)20日舉辦股東會,董事長王雪紅主持,她在致詞時首先感謝所有股東的支持,同時強調,「HTC 引領創新的表...

鴻海攻AI傳捷報再奪輝達大單 獨家供貨GB200交換器

鴻海搶攻AI商機再傳捷報,繼取得大份額輝達(NVIDIA)GB200 AI伺服器代工訂單之後,獨家拿下GB200關鍵元件...

輝達執行長黃仁勳高呼:台灣主權AI投資動起來

輝達(NVIDIA)執行長黃仁勳日前高呼「台灣應投資主權AI」後,台灣主權AI相關投資陸續啟動,鴻海、廣達兩大代工集團都...

次子接董座遭傳內定 葉國一駁:非自己安排、全靠實力

代工大廠英業達(2356)於去年完成世代交替,由創辦人暨會長葉國一次子葉力誠接任董事長,而原企業電腦事業群總經理蔡枝安接...

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。