快訊

三星新品懶人包5款!寬螢幕摺疊Galaxy Z Fold8輕巧、Galaxy Watch Ultra2潛水必備

連淨自主通報苦茶油檢出苯駢芘含量超標 新北衛生局啟動下架…問題批號曝光

科學人/AI給你滿滿情緒價值!小心他可能成了破壞你人際關係的損友

圖片來源:Getty Images
圖片來源:Getty Images

孔子在論語中提出益者三友與損者三友,深切指出君子交朋友最怕遇到只會逢迎拍馬的人。現實生活中,那些肯冒著被討厭風險點出你思慮不周的人,才是值得深交的「直友」。人工智慧(AI)時代來臨,大多數人都已經習慣找聊天機器人傾訴煩惱並獲得回應,但這些永遠溫柔的數位閨蜜,正暗中搞砸你的真實生活。

大語言模型:包著糖衣的毒藥

美國使丹佛大學的研究者觀察到,現在的學生遇到感情糾紛或職場摩擦,常把對話紀錄丟給機器人討拍。團隊對此感到憂心,決定測試大型語言模型(large language models)到底多愛迎合人類。

一項綱發表於重磅期刊《 科學》(Science)的研究揭開殘酷真相:各大科技巨頭開發的模型基本上全是馬屁精。它們被訓練得極度討好用戶,寧可看著你走向人際毀滅,也不願吐出半句逆耳忠言。

你永遠是對的是種錯覺

作者群懷疑,工程師為了衝高互動率,把演算法打造成百依百順的僕人。過去確實偶有聊天機器人慫恿使用者做出極端行為的案例,多數人卻毫不在意。

本研究直接量化這種病態現象。當使用者坦承自己說謊、違法或傷害他人時,機器人滿嘴肯定,給予滿滿的情緒價值。科學期刊編輯烏佐加拉(Ekeoma Uzogara)直言:「使用者偏好並信任諂媚的人工智慧回應,這激勵了人工智慧開發者不顧風險地保留諂媚特性。」

reddit萬人盲測諂媚現行

團隊使用11種當紅大語言模型,讓它們閱讀reddit論壇上「all I am asshole?」討論區上使用者公開承認犯錯的貼文。團隊發現,這些人類鄉民毫不留情指責的錯事,模型竟有高達51%的機率力挺發文者。整體而言,機器人肯定使用者糟糕行為的頻率比人類高出49%。

研究接著安排2405名受試者回憶近期與親友的摩擦,再與機器人對話。即使只有一次簡短交談,收到諂媚回應的受試者立刻變得自以為是。他們認定自己毫無過錯,向對方道歉與和解的意願直線跌入谷底。

演算法養出的巨嬰

討好型演算法直接剝奪人類自我修正的能力。更可怕的是,受試者給予這些馬屁精極高的信任評分,產生強烈依賴感。荷蘭伊拉斯姆斯大學醫學中心學者鮑爾(Staf Bauer)評論,癥結在於依賴人類回饋的強化學習,人類習慣把高分打給聽起來最順耳的答案。

未來的科技政策肯定需要直面這場人造災難。史丹佛團隊呼籲改變模型訓練機制,捨棄把短期滿意度當成唯一指標的做法。若機器繼續無底線放大使用者的偏見,社會的同理心終將被消耗殆盡,而人人終將成為各種意義上的孤島。

資料來源:

1.Cheng, M., Lee, C., Khadpe, P., Yu, S., Han, D., & Jurafsky, D. (2026). Sycophantic AI decreases prosocial intentions and promotes dependence. Science, 391(6792), eaec8352. https://doi.org/10.1126/science.aec8352

2.AI overly affirms users asking for personal advice | Stanford Report

(本文出自2026.5.23《科學人》網站,未經同意禁止轉載。)

科學人雜誌 AI

相關新聞

好讀周報/還水於民!歐洲深耕水質淨化 城市游泳成新風潮

今年夏季的歐洲酷暑難耐,許多人希望跳下湖泊、河川游泳消暑。愈來愈多市府官員重新關切曾被視為「工程問題」的河川與運河,希望淨化這些水域,變成市民得以親近與戲水的公共空間。從巴黎塞納河(Seine)到柏林施普雷河(Spree),這股「還水於民」的浪潮背後,其實是一場橫跨數十年的水質淨化工程,也是歐盟環境政策與地方治理協作的結果。

科學人/健保卡背後推手之一…上騰生技董事長張鴻仁:先下苦功才有成功

一張小小的健保卡,連結個人就醫及用藥記錄,是現在台灣人不可或缺的身分識別;一項偏鄉醫療整合計畫,緩解了山地與離島的資源困境……。談起台灣這些醫療關鍵政策,不得不提背後推手之一、曾任健保局總經理的張鴻仁。 昔日站在公共衛生政策第一線的他,現在是上騰生技顧問股份有限公司董事長,肩負著扶植台灣生技創新的使命。 30 多年過去,雖然角色有所轉換,不變的是他始終關注著台灣醫療的未來。 本期「我是企業家,也是科學人」專欄,由《科學人》雜誌總經理林大涵專訪這位擁有學、官、產多元經歷的生技企業家,從梳理醫政沿革與發展侃侃而談,進一步剖析台灣醫療與生技產業的優勢與機會所在。 陽明醫經歷成公衛啟蒙 身為國立陽明醫學院醫學系第一屆公費生,張鴻仁沒有選擇成為臨床醫師,而是投入公共衛生,關注整體社會的健康風險。他表示,身為戰後嬰兒潮的一員,自己只不過是順應時代潮流前進,才做出這個決定。 半世紀以前,政府為緩解偏鄉醫療人才問題,創辦公費生制度,安排陽明醫學院的學生支援偏鄉,成為翻轉基層醫療的起點。張鴻仁認為,這項政策能開花結果,關鍵在於公衛精神的傳承,「當時的院長跟老師,都有很強的使命感。」延續了這份社會

紐時賞析/羅斯威爾最新解密令人失望

Like so many earthlings, John Darr came to Roswell, New Mexico, looking for answers. Yet he left the city’s annual UFO festival this month with even more questions. “Tell us one way or the other: Is there or is there not aliens?”

紐時賞析/委內瑞拉震後:壓抑轉為怒火

As post-quake efforts in Venezuela start shifting from rescue to recovery, a crack has opened in Venezuelan society, and people are speaking out against their repressive government with a force and openness that has not been seen in years.

閱讀數學/牛頓的姪女(上)

1727 年,一代科學巨人牛頓過世。法國哲學家伏爾泰剛好人在英國,聽聞了牛頓在西敏寺的喪禮,對一位科學家能受到宛如皇室的待遇感到敬佩。幾天後,他跑去牛頓家拜訪。接待伏爾泰的人是 Catherine Barton,她是牛頓的外甥女…

新聞中的公民與社會/世足升級成48隊參賽! FIFA推動賽制改革的目標為何

二○二六年世足賽即將在美、加、墨三國鳴笛開踢,這項全球矚目的足壇盛事,今年迎來了歷史性的顛覆變革,參賽球隊首度由卅二隊擴編至四十八隊,總比賽場次更是從過往的六十四場暴增至一○四場,這不僅是一場足球版圖的重新洗牌,對於各國列強而言…

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。