AI生成教宗布道假影音充斥社群媒體 平台難管

自梵蒂岡上月迎來新教宗後，以人工智慧（AI）生成假冒教宗布道的影音迅速在社群媒體流傳，吸引大量點閱，包含YouTube等影音平台業者難以妥善管控。

美國籍樞機主教普瑞弗斯特（Robert Prevost）於5月當選羅馬天主教新教宗，名號良十四世（Pope LeoXIV）。

法新社一項調查發現，自新教宗上月開始引領羅馬天主教會後，在影音平台YouTube和抖音國際版TikTok已有數十個頁面持續發布AI仿聲良十四世的訊息或冒用其名的訊息。

據報導，這些數以百計偽造的英文和西班牙文布道與演說，凸顯利用AI製造騙局很輕易能躲過偵測和欺騙觀眾。

華盛頓大學（University of Washington）榮譽教授埃齊奧尼（Oren Etzioni）表示，「人們自然有興趣聽新教宗要講什麼，他們尚不清楚他的立場和風格。這是利用AI生成虛假訊息來製造混亂的絕佳時機」。

埃齊奧尼創辦了非營利組織TrueMedia.org，聚焦於打擊深偽（deepfake）。

法新社向YouTube檢舉26個頻道上傳大量AI生成與教宗有關的內容後，YouTube終止其中16個頻道運作，理由是違反該平台關於垃圾郵件、欺騙行為及詐騙的政策；另1個頻道則因違反服務條款遭終止運作。

TikTok也刪除訂閱數合計超過130萬的11個帳號，理由是平台政策反對假冒他人、有害的錯誤訊息，以及以AI生成有關公眾人物的虛假訊息誤導社會大眾。

諸如「良十四世願景」等社群媒體帳號，述說教宗大概會提供一系列他布道時從未提過的警告和教誨，但往往很難找到這些帳號使用AI的免責聲明，甚至有時根本沒有提供。

專家表示，即使是看似無害的虛假訊息也可能有問題，尤其是當這些內容被用來為帳號吸引互動、進而轉賣粉絲群，或日後轉向提供其他虛假訊息時。