AI遭用於錯假訊息 數位部：須提升民眾識讀能力

AI技術發展蓬勃發展，也被用在資安攻擊和爭議錯假訊息上，數位部指出，AI技術已被發現可用於生成個人化訊息或多媒體內容，甚至用來取得敏感資料或系統存取權。數位部強調，除了可以應用AI技術辨識錯假訊息及圖像、影片，但最重要還是提升民眾的識讀能力與警覺性。

根據數位部提交立法院外交國防委員會的報告指出，國外知名資安公司Crowdstrike近期研究發現，當前AI驅動的網路攻擊已發展出多種形態，例如AI用於社交工程攻擊，可自動識別最佳攻擊目標、產生並建立可信的假身份資訊、開發合理的攻擊場景，並生成個人化訊息或多媒體內容，以獲取敏感資料、系統存取權和資金轉帳。

同時，根據微軟與OpenAI的最新研究觀察，目前全球主要的駭客組織與國家網軍已將AI/LLM (大型語言模型)技術整合為提升工作效率的輔助工具。這些AI技術可使駭客得以精準的擴大攻擊表面及找到正確的攻擊入口，同時加速並提高攻擊鏈整體的成功機率。

數位部指出，這些AI技術的組合，讓網軍可以大量地建立多模態的錯假內容，提高訊息內容的複雜度與抗識別能力，迴避利用自然語言處理技術的辨識工具，同時也提高了辨識的人力耗費。

資安院進一步表示，因應AI造成的資安威脅，主要採取的策略包括在可能的攻擊途徑上建立多重柵欄；同時採用AI來提高識別、因應與阻擋的數量與速度。

資安院指出，運用運用AI辨識錯假訊息，可運用自然語言處理（NLP）、大數據分析、人工智慧和機器學習等科技，針對文本進行比對，快速識別和分析潛在的錯假資訊。透過AI辨識深偽圖像、影片和聲音，則可整合多種深偽偵測方法，可透過臉部或邊緣等特徵細節的變化，快速辨識多媒體的真偽，以達成多模態偵測的目標。

數位部並強調，最重要的是人員培訓，需要持續提升人民對AI相關威脅的認識，建立積極的安全意識文化，強化識讀能力，保持對任何訊息的警覺性。