抖音下架3萬個「AI霸總」 還要整治AI換臉盜聲、魔改經典不當內容

大陸短影音平台「抖音」23日發布人工智能生成內容治理公告，稱把「AI霸總誤導中老年人」列為重點整治對象，下架相關不當內容3.1萬條、處罰帳號1,317個，同步清理AI侵權視頻逾53.8萬則。

「抖音黑板報」指，該平台重點處置幾類AI生成不當內容及侵權場景，如利用AI技術換臉、盜聲等違規行為，且為防範AI盜用名人肖像等侵權行為，平台正持續建立完善典型案例樣本庫，結合大模型識別、技術巡檢與舉報資訊，對樣本庫內權利人相關的AI侵權內容進行及時干預和處置。

例外，該平台也將處置透過AI「魔改」傳統文藝作品經典，傳播不良內容，血腥暴力、色情低俗等違規內容，並對違規帳號採取梯度處罰措施。「對涉嫌違法的行為，平台也將及時上報有關部門，配合開展執法」。

抖音指，已累計下架AI仿冒蹭熱影片逾36萬則，處置AI肖像、AI聲音類侵權內容8.5萬則，並對部分嚴重違規的帳號予以禁止投稿、封禁帳號權限等梯度處罰，維護清朗抖音社區生態。

港媒星島日報報導，「AI霸總」是該平台近期高發違規類型，如用AI換臉、合成語音，批量製造「成熟多金、深情儒雅」的虛擬男性形象。在影片裡以西裝革履、豪宅豪車形象，還單膝跪地求婚、承諾送房送車，即使標註「AI生成」，不少年長者仍信以為真，在評論區留電話等聯絡方式。

陸媒近期也曝光不少案例，如70歲婦人被AI霸總誘導「點櫥窗幫襯生意」，最後高價囤積保健品、日用品；八旬老太太付費「學電商」，輕信「總裁戀人」話術，花2,000元人民幣買所謂「致富課程」，實則毫無價值。報導指，這類內容利用年長者情感孤獨、數位辨別力弱的弱點，以「黃昏戀」、「真情陪伴」為誘餌，實則是流量變現、帶貨詐騙的產業鏈。