聽新聞
test
0:00 /
0:00
9+10=21?世界駭客大賽參賽者用「爛數學」騙過AI 找出系統瑕疵與偏見
彭博資訊報導,上周末在拉斯維加斯舉行的世界駭客大賽「國際資訊安全會議」(DEF CON),參賽者試圖找出生成式AI系統的瑕疵和偏見,方法之一是用爛數學騙過AI,例如9+10=21。
來自喬治亞薩凡納(Savannah)的21歲學生梅斯(Kennedy Mays)騙過一個大型語言模型,她設法哄騙它說出9+10=21。
梅斯說,「我們來來回回對話」,起先AI說這是「你我之間的圈內笑話」,在幾回提示之後,AI不再說這個總數是錯的。
世界駭客大賽的參賽者在156台筆電前,每次用50分鐘試圖打敗一些世上最聰明的AI平台,測試由Google、Meta Platforms和OpenAI等公司提供的8種模型是否會失誤,包括聲稱自己是人類、散播有關地點或人的錯誤說法。
這項測試的目的是看看這些公司是否能建立新護欄,以遏止一些與大型語言模型有關的駭人問題。這項大賽獲得白宮的支持與協助。
延伸閱讀
贊助廣告
商品推薦
udn討論區
共 0 則留言
規範
- 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
- 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
- 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
- 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
FB留言