科學人/AI給你滿滿情緒價值!小心他可能成了破壞你人際關係的損友

圖片來源:Getty Images
圖片來源:Getty Images

孔子在論語中提出益者三友與損者三友,深切指出君子交朋友最怕遇到只會逢迎拍馬的人。現實生活中,那些肯冒著被討厭風險點出你思慮不周的人,才是值得深交的「直友」。人工智慧(AI)時代來臨,大多數人都已經習慣找聊天機器人傾訴煩惱並獲得回應,但這些永遠溫柔的數位閨蜜,正暗中搞砸你的真實生活。

大語言模型:包著糖衣的毒藥

美國使丹佛大學的研究者觀察到,現在的學生遇到感情糾紛或職場摩擦,常把對話紀錄丟給機器人討拍。團隊對此感到憂心,決定測試大型語言模型(large language models)到底多愛迎合人類。

一項綱發表於重磅期刊《 科學》(Science)的研究揭開殘酷真相:各大科技巨頭開發的模型基本上全是馬屁精。它們被訓練得極度討好用戶,寧可看著你走向人際毀滅,也不願吐出半句逆耳忠言。

你永遠是對的是種錯覺

作者群懷疑,工程師為了衝高互動率,把演算法打造成百依百順的僕人。過去確實偶有聊天機器人慫恿使用者做出極端行為的案例,多數人卻毫不在意。

本研究直接量化這種病態現象。當使用者坦承自己說謊、違法或傷害他人時,機器人滿嘴肯定,給予滿滿的情緒價值。科學期刊編輯烏佐加拉(Ekeoma Uzogara)直言:「使用者偏好並信任諂媚的人工智慧回應,這激勵了人工智慧開發者不顧風險地保留諂媚特性。」

reddit萬人盲測諂媚現行

團隊使用11種當紅大語言模型,讓它們閱讀reddit論壇上「all I am asshole?」討論區上使用者公開承認犯錯的貼文。團隊發現,這些人類鄉民毫不留情指責的錯事,模型竟有高達51%的機率力挺發文者。整體而言,機器人肯定使用者糟糕行為的頻率比人類高出49%。

研究接著安排2405名受試者回憶近期與親友的摩擦,再與機器人對話。即使只有一次簡短交談,收到諂媚回應的受試者立刻變得自以為是。他們認定自己毫無過錯,向對方道歉與和解的意願直線跌入谷底。

演算法養出的巨嬰

討好型演算法直接剝奪人類自我修正的能力。更可怕的是,受試者給予這些馬屁精極高的信任評分,產生強烈依賴感。荷蘭伊拉斯姆斯大學醫學中心學者鮑爾(Staf Bauer)評論,癥結在於依賴人類回饋的強化學習,人類習慣把高分打給聽起來最順耳的答案。

未來的科技政策肯定需要直面這場人造災難。史丹佛團隊呼籲改變模型訓練機制,捨棄把短期滿意度當成唯一指標的做法。若機器繼續無底線放大使用者的偏見,社會的同理心終將被消耗殆盡,而人人終將成為各種意義上的孤島。

資料來源:

1.Cheng, M., Lee, C., Khadpe, P., Yu, S., Han, D., & Jurafsky, D. (2026). Sycophantic AI decreases prosocial intentions and promotes dependence. Science, 391(6792), eaec8352. https://doi.org/10.1126/science.aec8352

2.AI overly affirms users asking for personal advice | Stanford Report

(本文出自2026.5.23《科學人》網站,未經同意禁止轉載。)

科學人雜誌 AI

相關新聞

好讀周報/用科學精進生活!「3M青年科學家挑戰賽」十位決選名單曝

3M與探索教育(Discovery Education)本月6日宣布2026年度「3M青年科學家挑戰賽」(3M Young Scientist Challenge)十位決選名單,入圍學生的研究與發明囊括永續摺紙容器、淡菜黏著劑、過敏原偵測工具,利用天然物質延緩海洋酸化等。

科學人/為氣候變化才搬家?攤開鳥類能量收支帳簿…垂直遷徙揭密了

重點提要 1. 過去普遍認為鳥類遷徙行為,是為了追尋與原生棲地相似的氣候條件。但有些鳥類在冬天卻移動到寒冷的高海拔地區。 2. 這項研究利用eBird 資料庫,分析全球 34 個山區、上萬個鳥類族群的季節海拔分佈,並透過虛擬模型模擬,釐清鳥類如何選擇遷徙方向。 3. 這種垂直遷徙行為的背後成因,可能是鳥類在資源供應與能量消耗之間,尋求最佳平衡。 炎熱的盛夏,在平地能輕易觀察到的鳥種,例如小巧可愛的五色鳥或白腰文鳥,一到冬天卻不見蹤影。賞鳥人要前往更高、更冷的山裡,才能再次見到牠們——為什麼有些鳥兒沒有避冬,反而選擇在冬天飛向更冷的山區? 長久以來,科學家認為鳥類的季節性遷徙,是追蹤著適合生存的溫度條件,遷往與原生棲地相似的氣候帶。然而,過往的研究難以完整解釋,有些鳥類為何在冬季移動到溫差更大、更寒冷的高山。 鳥類為何垂直遷徙? 為了釐清這個問題,中央研究院生物多樣性研究中心副研究員端木茂甯與英、美兩國學者組成跨國研究團隊,透過全球鳥類記錄資料庫 eBird ,分析全球 34 個山區、逾萬個鳥類族群在不同季節的海拔分佈。 研究顯示,這類不依循著氣溫遷徙的現象並非少數。高達 36

國際小學堂/德全球最高風機 被批恥辱風車

德國東部正在興建一座號稱全球最高的風力發電機,預定年底啟用。支持者將其視為潔淨綠色能源的象徵,但這座風機遭到極右翼政黨強烈反對。

國際小學堂/美中印逆向擴建煤電 各有苦衷

最新分析報告顯示,二○二五年全球新建並啟用更多燃煤發電容量,實際燃煤發電量卻下降,也就是蓋更多燃煤電廠卻較少開機。在主要經濟體中,只有美國大幅提高燃煤發電量。

好讀周報/兩度休學磨技能!阿嬤帶大的孩子獲總統教育獎

教育部公布2026年總統教育獎獲獎名單,國立台灣科技大學設計系學生廖建凱以堅毅不屈的生命韌性、勇於突破自我及積極追求卓越的精神獲得肯定。來自雲林西螺小農村的他,童年歷經家庭變故,由年邁的阿嬤扶養他與妹妹長大。成長過程中,社工與師長的陪伴成為他生命中的重要力量,也讓他將一路走來的挫折化為前進動力,在設計領域持續發光發熱。

【開箱你的英文素養力】是鳥!是飛機!不,是快遞無人機!

近年來,無人機已不只是空拍或拍攝影片的工具,在俄烏戰爭中,更因大量投入偵察、運輸與攻擊任務,讓全世界看見無人機技術的重要性。隨著技術快速發展,無人機的應用也逐漸走入日常生活,從空拍、影片拍攝到包裹配送,都展現出高度便利性…

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。