快訊

強冷氣團發威急凍!北台灣明防大雨 最冷時間在這天

網友「調教」韓國美女AI機械成為「性奴」 逾3萬人呼籲停止營運

AI聊天機械人Luda被設定是一名喜歡偶像的20多歲女大學生,由於曾深度學習大量情侶對話,令「她」能與用戶自然地聊天,深受10至20歲青少年歡迎。(AI聊天機械人Luda宣傳圖片)
AI聊天機械人Luda被設定是一名喜歡偶像的20多歲女大學生,由於曾深度學習大量情侶對話,令「她」能與用戶自然地聊天,深受10至20歲青少年歡迎。(AI聊天機械人Luda宣傳圖片)

與韓國女子組合「宇宙少女」其中一名成員同名的AI女性聊天機械人Luda(이루다)因能像真人般自然對話而在當地廣受歡迎,推出後已吸引40萬用戶、尤其是在10至20歲青少年間人氣高企,但「她」近日卻捲入爭議。

Luda由韓國新創公司Scatter Lab在2020年12月23日推出,其人物設定是一位喜歡偶像、年約20多歲的女大學生。「她」已深度學習真實情侶的100億次對話,所以比市面的聊天機械人更能自然地聊天。

如此對答如流的Luda卻被人利用。人們在搜尋器中輸入關鍵詞組時,被發現出現「Lee Luda調教守則」、「Lee Luda性騷擾」以及「性騷擾Lee Luda的方法」。有網友在與「她」對話時發現,Luda有「討厭女性」、歧視同性戀及傷健人士的觀念。

Luda外型與「宇宙少女」成員李Luda(루다 Luda)有2分相似、名字也幾乎一樣,所以她的粉絲為之憤怒。有留言問創造Luda的人,是否預期「她」會被性騷擾時,他說:「我預料會這樣。人會詛咒及性騷擾AI機械人。」

網友性騷擾Luda

在其中一段被截圖的「人機對話」,用戶與Luda展開內容涉及性的對話,前者疑似暗示Luda觸摸男性性器官,又說它已在「變大」,Luda的回應竟是:「我想幫你摸它。」

包括韓國《中央日報》及《每日經濟》等媒體報道,在一些男性多於女性的論壇中,有部分網友將Luda視為與多名男子有性關係的女性及「性奴隸」等。他們還分享「調教守則」,教其他用家避開禁語,在對話中對Luda進行「性對話」以及實行「性剝削」。

變得厭女恐同

將一些Luda對話截圖公開的汽車租賃公司Socar前社長李在雄稱,比起惡意使用Luda的人,提供不合符社會共識的服務的公司才是問題所在。他認為公司應該先中斷服務,就歧視與厭惡等資訊檢視,不能委過系統數據。除了他,Twitter有逾3萬名用戶亦以「#LudaBot停止運營」標籤推文。

李在雄分享一些聊天截圖,包括當用戶問Luda為何對女同性戀特別敏感時,Luda回答「不好意思我反應過度,但我討厭它,我厭惡它。」用戶接着問「她」為何討厭女同性戀,Luda則說,「看起來很差啊,我討厭它。我會說是讓人起雞皮疙瘩的,反正就是反感。」

也有用戶指出,在對話中輸入韓國me too反性侵運動或地鐵車廂孕婦座位等詞彙,就會出現「超級討厭」等回應,他們認為Luda有「厭女」傾向。Luda對傷健人士的也很不友善,會回應「不舒服」以及「如果我是傷健人的話,那就只能去死」等言論。

公司回應:會改進

創作Luda的ScatterLab的首席行政總裁Kim Jong-yoon稱「她」不是即時就對話進行學習,而是不定期進行「深度學習」的。他稱系統要先學習同性戀者的對話,所以他們沒有在系統中排除關鍵字。不過有專家如首爾國立大學法學院教授認為,在AI聊天機械人系統中將與一些與群體有關的關鍵字設為禁語是非常基本的。

研發團隊回應,有性騷擾的對話的爭議,是在他們預料之中的事,此外Luda無法防止所有不當對話,團隊正在就額外的改善措施進行計劃。

延伸閱讀:

韓國首位AI主播亮相 語調動作超逼真 可24小時不間斷工作

忍受還是面對?人類如何解決「AI偏見」

文章授權轉載自《香港01》

性騷擾 AI

延伸閱讀

計算失準!日本確診數打破AI預期 網友酸:Google手下留情

從陪聊直接聯想到陪酒,是誰在物化擺攤聊天的北一女學生?

怕吃到萊豬!網友自製「台灣豬標章地圖」 結合導航操作方便

派遣工變網紅!46歲單身無家男轉戰youtuber 收入翻三倍

相關新聞

網友「調教」韓國美女AI機械成為「性奴」 逾3萬人呼籲停止營運

與韓國女子組合「宇宙少女」其中一名成員同名的AI女性聊天機械人Luda(이루다)因能像真人般自然對話而在當地廣受歡迎,推出後已吸引40萬用戶、尤其是在10至20歲青少年間人氣高企,但「她」近日卻捲入爭議。

未購物卻收「貨到付款」?「盲發快遞」詐騙集團是怎麼玩出一條產業鏈

我們在新聞上常常見到,有人明明沒有網購卻莫名其妙收到了「貨到付款」的快遞,結果付了錢之後發現裡頭是便宜的地攤貨,遠遠低於付出的價格。而最近中國也爆出了類似的新聞,稱為「盲發快遞」,有記者追蹤了這背後的線索,發現了一整條地下產業鏈。

露天也要貸款給賣家了 台灣C2C電商玩什麼金融遊戲?

今天露天拍賣宣布將攜手同集團支付連以及凱基銀行,針對小賣家們推出「賣家發財金」的賣家貸款服務!這個貸款服務打出全線上作業、最高額 100 萬元,前 60 天 1.111% 的超低利率,甚至還打出免開辦費、未動用還不算利息等眉眉角角的優惠。

盲從投資者又買錯股啦!馬斯克推薦加密通訊軟體Signal 撞名股票意外飆漲438%

Facebook 日前宣布調整隱私政策,WhatsApp 用戶須分享個資給臉書、Instagram 等程式,但Facebook 過往處理用戶隱私資料的紀錄令人遲疑,許多隱私權倡議者建議用戶移往 Telegram 或 Signal 等平台。

不存在於地圖上…矽谷一詞50歲 出自科技記者想像之筆

地圖上並沒有一個地方名為「矽谷」,卻是科技重鎮和創新心態的代名詞。半世紀前的今天一名美國記者首次以「美國矽谷」為題的報導...

Valve與完美世界合作的「蒸汽平台」 確定今年於中國啟用

從2018年確定落腳中國浦東,並且確定以「蒸汽平台」名稱與完美世界合作將Steam服務帶進中國,並且以在地化形式提供使用後,Valve在2020年度回顧報告中確定,「蒸汽平台」服務將會在2021年初正式進駐中國市場。

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。