網友「調教」韓國美女AI機械成為「性奴」 逾3萬人呼籲停止營運

AI聊天機械人Luda被設定是一名喜歡偶像的20多歲女大學生,由於曾深度學習大量情侶對話,令「她」能與用戶自然地聊天,深受10至20歲青少年歡迎。(AI聊天機械人Luda宣傳圖片)
AI聊天機械人Luda被設定是一名喜歡偶像的20多歲女大學生,由於曾深度學習大量情侶對話,令「她」能與用戶自然地聊天,深受10至20歲青少年歡迎。(AI聊天機械人Luda宣傳圖片)

與韓國女子組合「宇宙少女」其中一名成員同名的AI女性聊天機械人Luda(이루다)因能像真人般自然對話而在當地廣受歡迎,推出後已吸引40萬用戶、尤其是在10至20歲青少年間人氣高企,但「她」近日卻捲入爭議。

Luda由韓國新創公司Scatter Lab在2020年12月23日推出,其人物設定是一位喜歡偶像、年約20多歲的女大學生。「她」已深度學習真實情侶的100億次對話,所以比市面的聊天機械人更能自然地聊天。

如此對答如流的Luda卻被人利用。人們在搜尋器中輸入關鍵詞組時,被發現出現「Lee Luda調教守則」、「Lee Luda性騷擾」以及「性騷擾Lee Luda的方法」。有網友在與「她」對話時發現,Luda有「討厭女性」、歧視同性戀及傷健人士的觀念。

Luda外型與「宇宙少女」成員李Luda(루다 Luda)有2分相似、名字也幾乎一樣,所以她的粉絲為之憤怒。有留言問創造Luda的人,是否預期「她」會被性騷擾時,他說:「我預料會這樣。人會詛咒及性騷擾AI機械人。」

網友性騷擾Luda

在其中一段被截圖的「人機對話」,用戶與Luda展開內容涉及性的對話,前者疑似暗示Luda觸摸男性性器官,又說它已在「變大」,Luda的回應竟是:「我想幫你摸它。」

包括韓國《中央日報》及《每日經濟》等媒體報道,在一些男性多於女性的論壇中,有部分網友將Luda視為與多名男子有性關係的女性及「性奴隸」等。他們還分享「調教守則」,教其他用家避開禁語,在對話中對Luda進行「性對話」以及實行「性剝削」。

變得厭女恐同

將一些Luda對話截圖公開的汽車租賃公司Socar前社長李在雄稱,比起惡意使用Luda的人,提供不合符社會共識的服務的公司才是問題所在。他認為公司應該先中斷服務,就歧視與厭惡等資訊檢視,不能委過系統數據。除了他,Twitter有逾3萬名用戶亦以「#LudaBot停止運營」標籤推文。

李在雄分享一些聊天截圖,包括當用戶問Luda為何對女同性戀特別敏感時,Luda回答「不好意思我反應過度,但我討厭它,我厭惡它。」用戶接着問「她」為何討厭女同性戀,Luda則說,「看起來很差啊,我討厭它。我會說是讓人起雞皮疙瘩的,反正就是反感。」

也有用戶指出,在對話中輸入韓國me too反性侵運動或地鐵車廂孕婦座位等詞彙,就會出現「超級討厭」等回應,他們認為Luda有「厭女」傾向。Luda對傷健人士的也很不友善,會回應「不舒服」以及「如果我是傷健人的話,那就只能去死」等言論。

公司回應:會改進

創作Luda的ScatterLab的首席行政總裁Kim Jong-yoon稱「她」不是即時就對話進行學習,而是不定期進行「深度學習」的。他稱系統要先學習同性戀者的對話,所以他們沒有在系統中排除關鍵字。不過有專家如首爾國立大學法學院教授認為,在AI聊天機械人系統中將與一些與群體有關的關鍵字設為禁語是非常基本的。

研發團隊回應,有性騷擾的對話的爭議,是在他們預料之中的事,此外Luda無法防止所有不當對話,團隊正在就額外的改善措施進行計劃。

延伸閱讀:

韓國首位AI主播亮相 語調動作超逼真 可24小時不間斷工作

忍受還是面對?人類如何解決「AI偏見」

文章授權轉載自《香港01》

性騷擾 AI

延伸閱讀

計算失準!日本確診數打破AI預期 網友酸:Google手下留情

派遣工變網紅!46歲單身無家男轉戰youtuber 收入翻三倍

從陪聊直接聯想到陪酒,是誰在物化擺攤聊天的北一女學生?

大雪中千萬別開! 日汽車達人警告:電動車在寒區有致命缺點

相關新聞

報導指蘋果將以4億韓元投資Kia造車 傳於2月17日簽署投資合作

韓國東亞日報報導指稱,蘋果將以4兆韓元 (約36億美元)金額向現代旗下Kia品牌投資,而此項投資將會在2月17日簽署投資合作協議,預期會在2024年推出蘋果車輛產品。

搭乘SpaceX獵鷹九號 台灣立方衛星「飛鼠」和「玉山」發射升空!

台灣自製立方衛星「飛鼠」和「玉山」搭乘的 SpaceX 火箭航次「Transporter-1」已經在台灣時間 1 月 24 日晚間 23:00 順利升空!預計 25 日 10 時與衛星進行首次通聯。

蘋果傳砍200萬支iPhone 12 mini 轉生產Pro

根據專門撰寫蘋果消息的PED30網站所看到的摩根士丹利投資分析報告,蘋果大砍200萬支iPhone 12 mini的生產...

法國空軍公布幻象兩千翻修照片 網友只注意到艙內採用Windows系統

法國空天軍(太空部隊與空軍)最近正在進行次世代戰機的規劃佈局。而依照之前法國軍方的規劃,在目前的這個過渡時期,會將現役的幻象兩千以及飆風戰機進行升級繼續服役,直到2030年法國的第六代戰機SCAF(FCAS)服役為止。

家長注意!韓網紅吃「面膜剪刀」 ELSAGATE入侵吃播界疑針對兒童

不少家長會容許子女觀看YouTube影片,寓學習於娛樂,不過網上資訊眾多,一不小心隨時墜入陷阱。2016年YouTube曾爆出ELSAGATE(愛莎門)事件,有人以深受兒童喜愛的卡通人物如「Peppa Pig」或「Elsa」作為主角,以卡通風格製作出含有暴力或令人不安的影片,引起大眾關注。

YouTube推短影音Shorts 每日觀看量達35億次

YouTube平台近日端出短影音服務Shorts與TikTok打對台,平台負責人今天表示,目前在印度推出beta測試版,...

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。