字節跳動AI模型Seedance爆紅 遭揭隱私道德爭議

中國科技巨頭字節跳動近日推出人工智慧（AI）影片生成模型Seedance 2.0，逼真效果引起討論。但中國科技自媒體影視颶風創辦人潘天鴻體驗過後直呼「恐怖」，並指出其在隱私、版權與道德的爭議。

據香港01報導，Seedance 2.0於2月低調上線，可同步生成影片與聲音，只需輸入指令或上傳參考圖，就能在60秒內產出帶完整原生音軌的多鏡頭影片，大幅降低專業創作的門檻與成本。

可「單指令生成連貫多場景」以及跨鏡頭流暢敘事的突破性創新功能，加上生成的逼真效果，使Seedance上線兩日就在海外輿論場引發轟動。

然而，中國科技自媒體影視颶風在YouTube上傳一支影片，指出他們試用Seedance 2.0後所發現的「恐怖」之處。

影視颶風創辦人潘天鴻在影片中表示，他在Seedance上傳他的照片並下達指令後，生成的影片自動配上他的聲音，「這個AI它會自動用我的聲音說話」。他強調，他的指令中沒有透露他身分資訊，意即「AI竟然知道這張臉的聲音是我的這個聲音。」

潘天鴻還發現，他上傳一張帶有公司部分場景的全身照，Seedance生成的影片以人物為中心進行運鏡，轉向大樓的另一面，而呈現出的畫面與該公司現實場景相符。潘天鴻說，「這不恐怖嗎？它（指AI）知道我背後的東西是什麼，即便我沒有告訴它。」

潘天鴻認為，Seedance 2.0大量使用他們公司的影片進行訓練，他還強調，沒有對相關素材進行授權，也沒有字節跳動的工作人員聯繫他進行版權申請。

潘天鴻也提醒，當一個人在網路上上傳的資訊進入AI數據集，並且AI能百分之百模擬出一個人的任何型態以及聲音，「那請問這樣的內容，你的家人分得出真假嗎？」

影片下方網友留言表示，「現在除了比誰錢多買晶片，就是比誰道德底線更低盜用更多東西訓練模型」、「AI最終不是技術問題，而是道德和侵權問題」。

該影片也在社群媒體平台Threads引起關注，網友指出，「世界上最強醫學跟AI未來絕對是在中國，為什麼？因為他們沒有道德限制器」、「我馬上了解這件事情恐怖的地方，任何人被消失之後都可以用這個方式矇騙大眾」。

面對相關爭議，陸媒中國經營報指出，字節跳動已於9日暫停支持用戶上傳真人圖片或影片作為主體參考，並限制僅在完成活體認證後方可生成真人形象影片，同時對名人、知名IP的影片生成進行嚴格審核。

報導引述中國科學院軟件研究所研究員張立波指出，相關行業也在積極探索技術治理方案，包括推行「AI水印」和「數位簽名」，讓每一段生成影片都帶上不可篡改的溯源碼，實現生成內容的可識別、可溯源、可追責。