假訊息認知作戰氾濫 杜奕瑾：從操作歷程找端倪

網路資訊傳播快速，社群平台消息和新聞報導真實性更難查證。台灣人工智慧實驗室創辦人杜奕瑾表示，網路很多假訊息與認知作戰，等到事實查核完成已經太晚，民眾可以透過一些分析工具觀察操作歷程，決定是否相信。

杜奕瑾接受中央社記者專訪指出，2020年COVID-19疫情爆發後，全世界開始出現疫苗相關假訊息，台灣人工智慧實驗室（Taiwan AI Labs）著手追查，研究如何防制假訊息。

台灣人工智慧實驗室觀察，去年俄烏戰爭爆發後，推特上發表相關言論的每10個帳號就有1個涉及認知操作；去年8月時任美國聯邦眾議院議長裴洛西（Nancy Pelosi）訪台期間，每4個帳號就有1個跟認知操作相關。

杜奕瑾直言，民眾在網路上看到攻擊自己的言論，感覺就像以前在路上遊行時有人來打你，其實很多都是認知操作的帳號。

「網路上這麼多假消息，很多人知道認知操作的厲害。」他坦言，「英國劍橋分析事件」認知操作200多場選舉都證明可以成功，但科技不能凌駕於人性。自2018年以來，全球開始對數位科技反思，台灣人工智慧實驗室也曾受美國總統拜登國家智庫「新美國基金會」（New America Foundation）之邀，討論科技倫理。

台灣人工智慧實驗室透過演算法全面理解分析，了解訊息如何不正常在網路上傳播，在疫情期間有很多偵防成果。例如世界衛生組織（WHO）秘書長譚德塞（Tedros Adhanom Ghebreyesus）曾表示，在疫情期間有網軍對他人身攻擊，當時推特確實有一群人不斷轉貼台灣BBS社群平台批踢踢（PTT）截圖攻擊譚德賽，這些帳號都有相同習性和行為。

杜奕瑾表示，台灣人工智慧實驗室把攻擊譚德塞的帳號分析結果交給國際夥伴後，已經變成全世界假訊息偵防很重要角色，尤其是中文訊息診斷，很多國際組織會來確認中文假訊息。

「以現在人工智慧技術，要創造一個假訊息的門檻非常低。」杜奕瑾說，深偽技術已經運用在網路上，可以合成聲音和臉孔，也能生成偽造內容；以後真假訊息的辨識只會更加困難，這也是科技倫理探討的議題。

雖然台灣有「事實查核中心」查證消息真偽，但以人力查核為主，速度較慢，杜奕瑾形容是「落後指標」；假訊息往往從社群媒體試水溫，再透過媒體報導放大，等到事實查核結果出來，假訊息早已經傳遞到下一個戰場。

他認為，防制假訊息的關鍵在於培養民眾的數位素養，透過人工智慧技術找出操作本質，輔助還原訊息原貌。未來民眾閱讀訊息時，可以透過一些分析工具觀察過去的操作歷程，大概就能理解操作目的。

例如台灣人工智慧實驗室開發的「迷音Miin」App，透過人工智慧技術，可以有效整理所有媒體和社群平台對於相同主題的內容，再自動寫成新聞，能協助讀者釐清操作歷程。

杜奕瑾說，透過「迷音Miin」可以看到哪些內容是鄉民原生，哪些是公關公司炒作，同時「迷音Miin」會標記有問題的內容。過去政治決策者常用訊息聲量決定輿情，但其實聲量可以被炒作出來。

眼看PTT成為認知操作的戰場，杜奕瑾並不覺得感慨，反而認為是社會發展的過程。他表示，如何防範資訊操作攻擊，是數位平台的共同問題，至少PTT在台灣還是開放且開源（open source）的組織，內容與運作機制都相對透明。

去年有開發者推出「唬爛產生器」，只要輸入主題和字數，就能自動產生一篇文章，成為學生交報告的偷懶神器。杜奕瑾對此表示，學術倫理其實更難把關，「人會越來越容易被騙」，但人工智慧產出的報告還是看得出不同，最終還是要從素養教育開始做起。