AI深偽詐騙的新興資安隱憂與破解之道

【文．林大馗】

在重要大選前網路瘋傳使用深偽Deepfake）技術所偽造的影片，畫面中是特定候選人接受採訪的橋段，開口讚揚對手的組合及政見是符合主流民意與未來方向。這樣的情節，及相似橋段的演化，不但已經在臺灣今（2024）年大選中發生，更可能會在今年全球 64 個以上國家即將進行重要選舉的場合中頻繁被濫用。

深偽技術威脅升級視為國家級風險

說你沒說的話、做你沒做的事

實際上這些造假影片，都是透過語音深偽技術，讓人說出不曾說過的話。這樣低成本深度偽造的候選人演講影片在社交媒體上迅速傳播，引起廣泛爭議。不僅混淆了選民的判斷，也對政治穩定構成了實質威脅。其實，類似的造假名人影片，早在 2017 年就由華盛頓大學研究團隊發表，當時該團隊僅透過分析 17 小時的真實演講影片，就偽冒受害者美國歐巴馬前總統達到惟妙惟肖的成果。有鑒於此，國際上已有多個先進國家稱「深偽技術」透過社群媒體大量散佈，可能影響選舉結果並視為「國家級風險」！

名人親臨抽獎，這應該不會被騙吧？

無獨有偶，國外媒體報導去（2023） 年12 月一位亞利桑那州婦女在社群媒體上被騙了10,000 美元，該詐騙集團使用深偽技術將名人的臉移植，造成該婦女在 Instagram 上收到了來自一個看起來像是名人帳戶所提供的訊息，該名人帳戶聲稱正在舉辦一場抽獎活動，而且她正是中獎幸運兒。受害者被詐騙集團要求向一個網站轉匯 10,000 美元作為參賽費，但該婦人從未收到獎品。另外，透過語音及影像深偽技術嘗試詐騙銀行的案例也時有所聞，比如早在 2021 年時，就有詐騙集團偽冒銀行客戶董事長的聲音，並且搭配假冒委託律師的確認轉帳許可，詐騙得手高達 3,500 萬美元。又國外警察於去年 8 月逮捕多名詐欺犯，被指控的罪名包含透過深偽技術偽冒身分證、語音與視訊電話等，向民眾進行詐欺行為。

ChatGPT助力，深偽影片即將唾手可得？

依據世界經濟論壇（WEF）預測， 於2026年時網路上可能有90％以上的內容將由人工智慧（AI）生成。近期又 有國外媒體報導，OpenAI執行長 Sam Altman於談話節目中親口透露，預計今年將 推 出 比 目 前GPT-4 更加先進的 GPT-5 大型語言模型，未來將讓 ChatGPT 不只是生成內容、文轉圖、圖轉文，甚至還有可能提供影片生成的功能。若 GPT-5 影片生成功能屬實，可以預見網際網路上深假影片將會更加猖獗。有心人士無須了解如何剪輯影片等後製技巧，只須透過提示（Prompt）描述該影片所需的內容、細節乃至運鏡，就可以由 GPT-5 生成一段影片。若影片生成功能再支援可上傳欲模仿人士的圖像，將會更加劇此一風險。我們可以預見未來大量仿造深偽影片流竄，假冒名人或是政治人物散播不實言論等情況，將不再是僅限於我們想像或電影中的情節。

【完整內容請見《會計研究月刊》2024.2月號】