AI助長造假太厲害 社群媒體到年底恐逾8成訊息「攏是假」！我們該如何因應？

撰文‧劉煥彥

以色列向來被視為資安大國，但連身在全球資訊科技最尖端的以色列都發現，AI助長訊息及影片造假實在太厲害，估計到今年底之前，所有社群媒體上的訊息高達8~9成都是假的，或由各類科技生成的。

不僅如此，2025年夏天以色列在與伊朗的12天戰爭中發現，伊朗光在這12天就對以國發動幾乎1200次社交工程行動（網路戰），不僅侵入公路監視鏡頭以掌握以國交通變化、駭入停車場監控鏡頭好掌握以方重要人員的動態，甚至試圖假造以色列本土防衛指揮部的訊息，誤導民眾不在飛彈來襲時進入避難所，藉此影響以色列的民心士氣。

以色列國家資安局（INCD）警告，全球第一場不費一槍一彈、純粹由網路技術進行的戰爭（cyber-based war）遲早會來臨，只有及早準備才能有效降低衝擊。

前以色列總理班奈特：在社群媒體看到的訊息，有可能九成是假的

2025年12月初在以色列特拉維夫大學舉行的年度資安周（Cyber Week），是以色列最重要的資安產業展覽及論壇。具備許多以色列成分及技術的美國資安業者Brinker，是參展業者之一。

2023年才成立的Brinker，自許為一家「敘事情報公司」（narrative intelligence company），是個運用AI技術消除假消息威脅的平台，可以自動化蒐集在公開領域的線上消息，比對及抓出可能的虛偽訊息，保護企業品牌、公眾人物及公民營機構不受數位威脅。

Brinker共同創辦人及執行長Daniel Ravner在Cyber Week會場接受《今周刊》訪問時指出，綜合許多市場調查顯示，到了2026年底，80~90%的社群媒體內容都會是假的，因為從文字、照片到影片，都有可能是AI生成的。

有科技業背景的前以色列總理班奈特（Naftali Bennett）也表示，隨著AI技術日新月異，在社群媒體看到的訊息有可能九成是假的，「但看起來很自然，因為有看似與人類一樣的機構名稱或人名，背後其實是AI，它們會建立起身分、設定人設，並且花時間添加素材，看起來就像真的」。

伊朗配合飛彈攻擊，以假訊息攻勢及駭客滲透基礎設施，網攻以色列

在資安周發表專題演講的以色列國家資安局局長Yossi Karadi，則是提出了去年與伊朗12天戰爭中，伊朗配合飛彈攻擊、同步對以色列發動的網路戰手法，包括假訊息攻勢及駭客滲透社會基礎設施。

第一，在為期12天的以色列「雄獅崛起」行動期間，伊朗發動了幾乎1200次社交工程攻勢，每一次都接觸到成千上萬的以色列國民，意味在12天期間每一位以色列人就被網路攻擊了好幾次。

第二，以色列頗負盛名的魏茲曼科學院（Weizmann Institute of Science，類似台灣的中央研究院），有多棟大樓遭伊朗飛彈擊中，而伊朗駭客在飛彈攻擊前先入侵的目標大樓附近的道路監視器，以掌握攻擊成效，甚至還發電郵恐嚇科學院的教職及研究人員。

第三，伊朗在有一次飛彈攻擊時，同步發出大規模的手機簡訊，偽裝成以色列軍方本土防衛指揮部（home front command）的訊息，要大家不用跑到避難室躲飛彈，或是發出謊稱油料存量與糧食不足的通知，就是要打擊以色列的民心士氣。

第四，伊朗還入侵了以色列的部分停車場監視器及道路監視器，以掌握以色列要員的行蹤，好制定攻擊這些重要人物的計畫。

第四代網路作戰「最令我擔心」

Yossi Karadi認為，現在的網路作戰（cyber warfare）已經從第一代進化至第四代，也就是他稱之為不費一槍一彈、純粹由網路技術進行的戰爭（cyber-based war，CBW），而CBW也是他最擔心的。

「想像一下，有個國家正遭受各種數位手法圍攻，不但發電廠停擺造成全國停電、通訊網路全部掛掉、運輸癱瘓，連供水也有問題。」

「在這樣的世界中，不存在有實體的前線，因為老舊的數位基礎建設就是前線。或許有人覺得這聽起來太像科幻小說，但大家都還記得，當我們未能對外來威脅有正確的想像，未能對會發生的戰爭型態做好準備，最後發生了什麼事（編按：2023年10月的哈瑪斯大規模恐攻，造成以色列1200多人喪生，逾3000人受傷）。」

「如果我們不能想像中第一場CBW會是什麼模樣，我們就無法好好因應。」

資安業者Brinker：重點並非抓出假消息之技術，更要看前後脈絡、背後動機

針對假訊息當道，而且只會愈來愈猖獗的現況，在部分資安業者眼中就是全新的機會。

資安業者Brinker共同創辦人及執行長Daniel Ravner指出，該公司的AI平台不僅抓出假訊息，更重要的是同步掌握這類訊息的周邊狀況（context），研判背後動機，以綜合判斷假訊息是否真的會傷害當事人。

「舉例來說，若有人傳了一張美國時代雜誌的封面圖片，上面有改造過的川普照片，這是假的嗎？當然。但這是惡意的嗎？不是，這只是一張雜誌封面圖片而已。」

「還有一種狀況，例如有人發訊息海嘯要來了，趕快離開屋子，還附上一支影片。這支影片是貨真價實的，但卻是三年前的海嘯影片。就這個案例來說，影片是真實的，但背後動機100%是有問題的。」

「假設有人傳了一個影像，說是川普下個星期要訪問台灣，我們系統會同步搜尋在網路是否真有這樣的訊息或討論出現，綜合多種工具的判斷，最後給你一個機率評分。」

Daniel Ravner說明，Brinker的AI技術核心，是判斷假訊息的背後動機，研判這是否會傷害到當事人、當事企業或機構，而不是只注重技術面，判斷某個網路消息是否是假訊息。

隨著AI技術日新月異，社群平台上的訊息真偽攻防戰，勢必成為長期的拉鋸戰，也將成為AI時代難以擺脫的現象。

同時，以色列與各方敵人在網路戰及假消息領域的持續攻防，也可能成為各國重要的觀察指標。

本文授權自今周刊，原文見此。

延伸閱讀》

郵局存戶新制上路！線上轉定存這天起限額「大降200萬元」...定存、活存利息差多少一表看

2026 WBC賽程、WBC轉播！經典賽直播哪裡看？台日大戰3/6開打…台灣隊賽程、先發名單、戶外直播資訊

00919新一季配息預測！為何0.63元成關鍵門檻？股價漲破24元、殖利率剩8％多...現在進場還夠甜？

佳龍(9955)做什麼的？為何美伊開戰就跳空漲停？金益鼎、黃金ETF、軍工股...想發戰爭財該買誰？台股老手首選它

【尊重智慧財產權，如需轉載請註明資料來源《今周刊》，謝謝】