理解不同語言、文化背景 Facebook以五大原則打擊仇恨言論

▲Facebook負責仇恨言論內容政策經理Manu Gummi
▲Facebook負責仇恨言論內容政策經理Manu Gummi

針對Facebook平台上的仇恨言論情況,Facebook負責仇恨言論內容政策經理Manu Gummi表示會基於蒐集意見、確保真實性、安全、保護隱私及尊嚴五大原則,並且配合位於各地區內容政策團隊成員討論及反饋意見作為參考,同時藉由人工智慧等技術預先識別絕大多數的仇恨言論內容,另外也會採納使用者申訴內容,藉此讓Facebook不會淪為變成攻擊他人的平台。

Manu Gummi說明,Facebook對於仇恨言論內容採取相當完整的應對作法,其中包含制定完整社群使用守則,並且清楚告知使用者在Facebook服務平台應遵守事項,同時也會透過位於全球各地區的內容政策團隊成員討論內容及意見,藉此了解各地區對於仇恨言論的理解與看法,藉此調整適合各地區的規範作法。

藉由各地內容政策團隊了解在地語言及文化差異

不過,語言及文化上的差異,其實也讓處理仇恨言論內容面臨相當大的挑戰,因為其中涉及不同語言對於相同內容陳述方式會有差異,加上文化差異上的影響,都會讓仇恨言論定義有明顯落差,因此並非只是透過字面上的直覺陳述作判斷,因此Facebook必須在全球各地區建制內容政策團隊,希望透過了解在地語言、文化的成員可以更具體反應哪些內容,或是什麼樣的情況會讓人不舒服。

另一方面,由於Facebook上每天增加難以計算的發文數量,單純透過人力審核內容幾乎是不可能的任務,因此勢必要透過機器識別方式輔助。但機器畢竟難以像人類般思考,因此在不同語言上如何清楚識別個別字句涵義也變得重要。

透過三級別評斷仇恨言論嚴重性

依照Facebook內部設定不同評級,將仇恨言論內容區分成三大級別,其中第一級基本上就包含明顯暴力言論,以及形容他人為動物、昆蟲等污衊行為,或是抹滅人性情況,甚至興起仇恨言語行為,而第二級則涵蓋以生理、道德等缺陷貶低他人,或是咒罵及表示輕蔑、憎恨等情況,至於第三級就涵蓋涉及號召產生排擠、隔離行為,同時也包含更嚴重的毀謗及詆毀情況,而Facebook會針對不同及別的仇恨言論調整處理方式。

但Manu Gummi也強調如先前提及即使是相同字句,在不同情況下會有不同「涵義」,例如發文內容提及「去市場指定買台灣豬」,實際上是在台灣地區反萊豬的環境背景所產生言論,實際上並非詆毀台灣或台灣人,而諸如「你的預約號碼是426」,實際上也並非指許多仇恨中國人的台灣人所使用「426」字眼。

配合人工審核、申訴等方式降低「誤殺」情況

因此,如果要避免在內容審核發生「誤殺」,就必須在基本使用守則制定清楚規範,並且配合理解不同語言、文化背景差異下的詮釋及理解落差,藉此讓人工智慧系統及機器學習機制可以用更快效率清理各類仇恨言論,再搭配使用者舉報等方式補強機器未能處理內容。

而為了避免機器產生誤判,Facebook依然會有內容審查團隊確認發文是否違反仇恨言論規範,同時也能配合檢舉申訴機制降低未能正確處理仇恨言論發文情況。

消弭仇恨言論是相當大的挑戰

目前Facebook在全球約有35000人負責內容安全事務,同時也有15000人負責內容審查,同時絕大多數內容都會在24小時內完成審查。從2019年12月至2020年12月間,Facebook對於仇恨言論處理量便增加389%,其中透過機器主動偵測、過濾比例則達97.1%,使得每一萬則發文內容僅有7-8則包含仇恨言論,搭配使用者檢舉及內容過濾審核,即可大幅消除Facebook內的仇恨言論比重。

只是隨著在Facebook分享傳遞內容越來越多元,Manu Gummi也表示讓內容審核變得越來越有挑戰性,因此如何讓人工智慧能持續在不同語言使用情境下正確識別仇恨言論,甚至可以檢視整篇文字內容、圖像或影片表徵內容,藉此讓機器更容易在成千上萬筆發文內容揪出違反仇恨言論內容。

《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》

台灣人 Facebook

延伸閱讀

臉書用AI對抗仇恨言論見效 主動偵測率攀至97%

中國人工智慧模型訓練 北京清大錄取首位AI學生

南台科大資傳系獲華文電子書創作大賽第一名 與3佳作獎

長照老人養護機構防疫 屏縣府列冊篩檢照服員

相關新聞

上班上學設Google鬧鐘小心悲劇 網哭:用自家手機也沒用

Google App時鐘被抗議,出現罷工不計時,或者鬧鐘罷工的情形。有網友在該APP下方留言,已有幾次計時器出現錯誤,或是鬧鐘會提前響或不響的bug狀況。有持Google手機的網友甚至氣炸反映,即便用的就是Google的手機,仍會有bug情形。

LINE電腦版7.1雙系統上線 4大更新讓視訊通話更方便

疫情期間不管工作、親友聯繫都經常使用的LINE電腦版又有更新,LINE電腦版7.1目前Windows、Mac雙系統皆已上...

日媒:TikTok下載量超越Facebook 排名全球第一

日媒8月6日稱,經調查2020年的全球下載量,中國短片分享應用程式(App)TikTok(抖音國際版)自2018年開始調查以來,首次成為全球下載量最多的App。

Google小遊戲「塗鴉冠軍島」上線啦 一路和天狗、河童PK奧運關卡

Google最新奧運小遊戲你玩了嗎?為了迎接奧運,Google在搜尋首頁放上了「塗鴉冠軍島(Doodle Champion Island)」小遊戲,玩家可以化身成三花貓,一路挑戰桌球、滑板、射箭等各種奧運比賽項目。上線後廣受好評,被譽為「史上最精緻小遊戲」。

IG將測試重大變革 會更像TikTok

臉書的Instagram負責人Adam Mosseri周三宣布,該社群平台計劃在動態消息中,全螢幕顯示推薦給用戶的影片。

LINE想收回訊息按成刪除怎麼救?只要這樣做很快解決

LINE作為台灣市占率九成的通訊軟體,幾乎成為台灣人的日常一部分。自從LINE新增「收回」功能後,傳錯訊息更方便了。但如果又再失手點成「刪除」鍵,又該如何救回?LINE有最新文章,提供一招可立馬神救援。

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。