科學人/AI給你滿滿情緒價值!小心他可能成了破壞你人際關係的損友

圖片來源:Getty Images
圖片來源:Getty Images

孔子在論語中提出益者三友與損者三友,深切指出君子交朋友最怕遇到只會逢迎拍馬的人。現實生活中,那些肯冒著被討厭風險點出你思慮不周的人,才是值得深交的「直友」。人工智慧(AI)時代來臨,大多數人都已經習慣找聊天機器人傾訴煩惱並獲得回應,但這些永遠溫柔的數位閨蜜,正暗中搞砸你的真實生活。

大語言模型:包著糖衣的毒藥

美國使丹佛大學的研究者觀察到,現在的學生遇到感情糾紛或職場摩擦,常把對話紀錄丟給機器人討拍。團隊對此感到憂心,決定測試大型語言模型(large language models)到底多愛迎合人類。

一項綱發表於重磅期刊《 科學》(Science)的研究揭開殘酷真相:各大科技巨頭開發的模型基本上全是馬屁精。它們被訓練得極度討好用戶,寧可看著你走向人際毀滅,也不願吐出半句逆耳忠言。

你永遠是對的是種錯覺

作者群懷疑,工程師為了衝高互動率,把演算法打造成百依百順的僕人。過去確實偶有聊天機器人慫恿使用者做出極端行為的案例,多數人卻毫不在意。

本研究直接量化這種病態現象。當使用者坦承自己說謊、違法或傷害他人時,機器人滿嘴肯定,給予滿滿的情緒價值。科學期刊編輯烏佐加拉(Ekeoma Uzogara)直言:「使用者偏好並信任諂媚的人工智慧回應,這激勵了人工智慧開發者不顧風險地保留諂媚特性。」

reddit萬人盲測諂媚現行

團隊使用11種當紅大語言模型,讓它們閱讀reddit論壇上「all I am asshole?」討論區上使用者公開承認犯錯的貼文。團隊發現,這些人類鄉民毫不留情指責的錯事,模型竟有高達51%的機率力挺發文者。整體而言,機器人肯定使用者糟糕行為的頻率比人類高出49%。

研究接著安排2405名受試者回憶近期與親友的摩擦,再與機器人對話。即使只有一次簡短交談,收到諂媚回應的受試者立刻變得自以為是。他們認定自己毫無過錯,向對方道歉與和解的意願直線跌入谷底。

演算法養出的巨嬰

討好型演算法直接剝奪人類自我修正的能力。更可怕的是,受試者給予這些馬屁精極高的信任評分,產生強烈依賴感。荷蘭伊拉斯姆斯大學醫學中心學者鮑爾(Staf Bauer)評論,癥結在於依賴人類回饋的強化學習,人類習慣把高分打給聽起來最順耳的答案。

未來的科技政策肯定需要直面這場人造災難。史丹佛團隊呼籲改變模型訓練機制,捨棄把短期滿意度當成唯一指標的做法。若機器繼續無底線放大使用者的偏見,社會的同理心終將被消耗殆盡,而人人終將成為各種意義上的孤島。

資料來源:

1.Cheng, M., Lee, C., Khadpe, P., Yu, S., Han, D., & Jurafsky, D. (2026). Sycophantic AI decreases prosocial intentions and promotes dependence. Science, 391(6792), eaec8352. https://doi.org/10.1126/science.aec8352

2.AI overly affirms users asking for personal advice | Stanford Report

(本文出自2026.5.23《科學人》網站,未經同意禁止轉載。)

科學人雜誌 AI

相關新聞

好讀周報/休達爆移民危機!3天6萬人試圖越境 疑有幕後黑手

西班牙位於北非的「飛地」休達(Ceuta)7月底爆發近年最大規模的移民闖關潮,7月29日至31日短短3天內,至少6萬人試圖越境,多數移民游泳繞過邊境圍欄,也有人強行衝關或攀爬海堤。目前絕大多數移民已遭西班牙當局遣返摩洛哥,僅剩少數人仍在休達街頭徘徊。西班牙當局統計,這起事件造成72人死亡,但摩洛哥人權協會(AMDH)表示,實際死亡人數恐怕接近130人,另有數十人下落不明。休達市長韋華斯(Juan Jesus Vivas)形容,此次移民規模「就好比有100萬人非法湧入西班牙」,凸顯當地承受的衝擊與壓力龐大。

好讀周報/K-pop加持韓文系滿招!追星成動力 就業出路廣

在韓流加持下,國內少數韓文系招生強勢、連年滿招。韓文系教授不諱言,學生多是因韓流熱選擇讀韓文系,從興趣出發再轉變為現實生活中的實質專業,不少學生未來盼投入筆譯、口譯,甚至成為外交與商務人員。

國際小學堂/川普新空軍一號 爭議聲中首航

美國總統川普七月一日首次搭乘新空軍一號時,興奮之情溢於言表,對卡達捐贈的這架豪華飛機讚不絕口,形容這架專機「真是太棒太壯觀了,簡直無與倫比」。這架裝潢華麗、配有豪華臥室、水晶吊燈與麂皮座椅的波音七四七-八客機,與過去幾任美國總統搭乘的舊空軍一號截然不同。然而,這架被川普視為「夢想座機」的新飛機,從一開始就伴隨著法律、安全與政治爭議。

國際小學堂/美國總統座駕 記錄200年科技史

美國首任總統華盛頓就職時,乘坐馬車前往就職典禮現場。兩百多年後,川普搭乘防彈座車「野獸」進入白宮。紐約時報報導,美國總統的座駕和維安模式隨著時間演進,而每一次重大改變,都與科技進步和歷史事件息息相關。

115年國中會考社會科:不只考記憶,圖表、跨科是關鍵

115年度國中教育會考已於5月順利落幕,今年社會科的命題方向持續以長文本、多圖表的方式,測驗考生能否從圖文資訊中提取關鍵訊息,並進行合理判斷與解釋,「閱讀力」、「邏輯力」與「內化力」三大能力成關鍵。現在,就跟著彤妤老師一起剖析115年國中會考社會科試題…

科學人/日本發現的神祕骨頭 竟屬於前所未見的巨型大鯢

日本一批被發現近30年的化石骨頭,最近有了新的身分。研究人員重新分析這3塊出土於日本大分縣安心院(Ajimu)地區的脊椎骨,發現它們不屬於已知的日本大鯢或中國大鯢,而是一種過去從未被辨認出的大鯢。 這個新屬新種被命名為安心院大鯢(Limnospondylus ajimuensis),大約生活在350萬年前的日本北九州湖泊與濕地中,體長可能可達約1.1公尺,與現存最大型兩生類相當。 舊化石,重新看出新物種 這3塊化石是在1995到1997年間出土,來自大分縣安心院地區的津房川層(Tsubusugawa Formation)。這個地層是古代湖泊沉積物,也曾保存象、鱷魚,以及其他今日日本已不再出現的動物化石。這些化石共同顯示,當時的北九州和今天很不一樣:氣候更溫暖、更潮濕,擁有廣闊淡水湖、沼澤與周邊棲地,足以支持大型兩生類與爬行類生存。 這批大鯢骨頭最早在2001年被描述,當時研究人員暫時把它們歸入大鯢屬(Andrias)。這個屬包括現生的日本大鯢(Andrias japonicus)與中國大鯢(Andrias davidianus)。不過,當時可用的骨骼材料有限,相關解剖比較也不足,

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。