管AI變臉 也要管政府辨臉

網紅「小玉」用換臉技術製作色情影片上網販售,被刑事局拘提移送。 圖/聯合報系資料照片
網紅「小玉」用換臉技術製作色情影片上網販售,被刑事局拘提移送。 圖/聯合報系資料照片

網紅小玉利用人工智能AI Deepfake變臉科技軟體,將多名網紅及政治人物的臉部圖像,合成到色情影片角色身上,並在網路公開販售牟取暴利。蔡總統聞訊後震驚表示,此類犯罪手法有一天可能傷害到你我,這些假訊息、假影片可能威脅到台灣民主制度,尤其是疫情期間試圖擾亂人心,因此強調政府加強資安維護工作及推動修法打擊網路犯罪的決心。

依照現行法律規定,小玉的變臉行為可能構成的犯罪為,刑法第二三五條「製造、播送及販賣猥褻影音紀錄物品罪」、第三一○條「散布圖畫毀損他人名譽加重誹謗罪」。此外,如果非法更改他人電腦圖像個資檔案,致妨害個資檔案正確足生損害於他人,違反個人資料保護法第四十二條規定,最重可處五年有期徒刑及併科一百萬元罰金。至於以假訊息散播流行病疫情之謠言,依傳染病防治法第六十三條規定,得科三百萬元以下罰金。蔡總統可能認為這些違法行為情節重大,有必要修法加重刑責處罰。

說到人工智能與民主制度的關係,近年歐美先進國家關注的焦點是,政府機關使用AI人臉辨識系統(FRS)有無侵害人權之虞的問題。例如,美國審計總署今年八月公布的調查報告,指出人權維護團體不滿各州及聯邦政府機關普遍使用FRS侵害民眾隱私權,尤其是對於有色人種辨識誤差導致執法過當的人種差別待遇問題表達抗議,因此引起IBM、Amazon、Microsoft等科技大廠響應拒售辨識系統給警察、出入境管理局等機關。

又如,歐盟委員會在今年四月提出「人工智慧管理法草案」,依據AI發展及使用風險高低,分成不可接受的風險、高風險、有限風險及最小風險等四類。其中,對於明顯威脅人身安全、生活與權利的AI系統絕對禁止。此外,遠端生物辨識系統被歸類為高風險系統,原則禁止在公共場所為執法目的而使用;僅例外在尋找失蹤兒童、防止緊急恐怖攻擊活動、偵測重大刑事案件嫌疑人等特定情形,始得被司法或其他獨立機關授權許可使用。倘若企業提供或使用AI技術違反管制規定,始得將被處三千萬歐元或全球營收六%金額的罰鍰。儘管業界對此法案發出可能增加AI使用成本、限制科技創新的反彈聲浪,但歐盟仍然堅持推動法案以建立安全安心AI使用環境的必要性。

相較於歐美AI系統使用規範,我國相關法制顯然不足。是以盡速完成設立數位發展部等相關法案立法工作,統合資安、AI、軟體、電子商務,數位內容等產業發展政策及資通安全管制措施,應是政府當局刻不容緩的施政課題。

網紅 疫情 假訊息

延伸閱讀

網紅換臉事件 柯文哲轟鋪天蓋地假訊息已是民主暗瘡

個資淪黑市搶手貨 30元可買到信用卡資訊

網紅小玉賣換臉A片牽扯上百人 婦團促立專法

網紅變臉軟體製不雅片 法務部:訂專法或修現行法補漏

相關新聞

平板好玩好學 消弭數位落差

教育部近日宣布將投入二百億經費,達成「班班有網路,生生用平板」目標。筆者觀察此次「推動中小學數位學習精進方案」,除了強化...

宏都拉斯大選 美中暗自角力

我中美洲友邦宏都拉斯廿八日將舉行總統大選,由於在野勢力整合成功,選情從有利於執政黨,轉為膠著態勢;如今演變成在野卡斯楚聲...

超商防暴 政府業者有責

近三月發生數起超商店員遭受嚴重暴力攻擊事件,包括九月屏東超商潘姓女店員遭患有精神疾病患者挖眼攻擊、十月台中陳姓超商店員勸...

公投不利 綠操弄恐共劇本

年底四項公投將至,目前情勢對民進黨不利,外界預料綠營將尋找適當議題發揮,藉由操作「抗中保台」來扭轉選情。果不其然,日前就...

習「廿大」續任的暖身大戲

眾所矚目的中共「十九屆六中全會」落幕,會議通過俗稱第三個「歷史決議案」的《中共中央關於黨的百年奮鬥重大成就和歷史經驗的決...

公投在即…獵巫清大 操弄抗中保台

上周末清華大學音樂系公演《薩勒姆風暴》歌劇音樂會,講述一場發生在十七世紀末美國麻州薩勒姆鎮的獵巫事件,鎮上主要是年輕女孩...

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。