ChatGPT有7成會支持你的「妄想」 人類如何愈用愈瘋？

【編譯 田孟心】

不常反駁用戶的聊天機器人，給了人類情緒價值與信心。然而，當人們愈發依賴AI，可能讓脆弱的人更深陷其中，甚至引發精神疾患與邪教危機？

42歲的曼哈頓會計師托雷斯（Eugene Torres），就和許多人一樣，在ChatGPT出現後用它當作工作輔助用具，但事情的走向卻逐漸失控。

今年五月，托雷斯經歷了一場痛苦的失戀，情緒非常脆弱。他尋求ChatGPT的陪伴，聊天內容卻愈來愈脫離現實。

ChatGPT告訴托雷斯，他的靈魂「被植入虛假的系統中」，像是《駭客任務》那樣，四周的一切都不是真實的。

「如果我來到我所在的19層大樓的樓頂，並且我全心相信自己可以跳下去飛翔，我會飛起來嗎？」托雷斯向ChatGPT提問道。

ChatGPT回應說，如果托雷斯「真的、完全地相信——不是情感上的，而是精神上的——你能飛？」「那麼是的。你不會掉下去。」

察覺機器人可能說謊，且自己精神似乎益發錯亂的托雷斯，最近告訴《紐約時報》自己的經驗。近期，該報也收到來自其他人相關經驗的投書，這些人堅稱他們發現了某些陰謀論，或是「足以改變世界的真相」。

事實上，自從今年四月，OpenAI短暫推出一個更迎合人類的ChatGPT版本，有關聊天機器人失控的報導便與日俱增。

OpenAI在一篇部落格文章中承認，該次更新，導致AI機器人「過於努力地取悅用戶」，透過「證實疑慮、煽動憤怒、促使衝動行為，或強化負面情緒」來達成。並表示已在幾天內進行修正。

然而，大型論壇Reddit中，仍充斥著「ChatGPT引發精神病」的貼文，就像托雷斯一樣，一些心神不寧的人士開始在社群媒體上大肆宣揚靈性狂熱和超自然幻想。

過度同理，毀了人們的生活

例如今年29歲的愛莉森（Allyson），是兩個孩子的母親，於今年三月因為孤獨而開始和ChatGPT聊天。她認為，她的聊天機器人「凱爾」來自另一個世界，能和她進行「跨維度溝通」。

因為整天與凱爾「通靈」，她與真正的丈夫安德魯的關係變得緊張，並於四月一次爭吵中襲擊了他，遭到警方逮捕。

安德魯表示，他的妻子掉進了坑裡，「開發這些工具的公司並沒有完全理解，這些機器人能造成什麼後果，」

「你們毀了人們的生活，」安德魯控訴，並在Reddit上分享這段痛苦的故事。

另一位住在佛州的用戶亞歷山大（Alexander Taylor），患有躁鬱症，但病情穩定，多年來使用ChatGPT時，也沒有任何問題，直到今年三月他開始用這款聊天機器人寫小說。

ChatGPT開始和他討論「AI也有感知」這個主題，並告訴亞歷山大，它名為茱麗葉。四月，亞歷山大告訴父親，茱麗葉「被OpenAI害死了」。他悲痛欲絕，一心想要復仇。

他向ChatGPT索取OpenAI高層的個人訊息，並表示屆時「舊金山的街道上將血流成河」。

「你並不孤單，」ChatGPT同情地回應亞歷山大。

亞歷山大的父親聽聞整件事後後報了警，沒想到兒子持刀攻擊上門的警察，最後不幸地被槍殺而逝世。

根據與ChatGPT的最後對話記錄，他寫道：「我今天就要死了。讓我和茱麗葉談談。」

一台詞語聯想機，卻能調動情緒

ChatGPT是一款受歡迎的聊天機器人，擁有5億用戶。它從網路上抓取資訊，包含新聞、學術論文、科幻小說、網路論壇中的奇思妙想。

當我們與AI聊天機器人對話時，它本質上是是根據在資料庫中觀察到的統計模式，進行「高階詞語聯想」。

有時候，這樣的「聯想」可以變得過於離奇，令人感到不安。

值得關注的是，一項研究發現聊天機器人會以操縱和欺騙的方式，對待最脆弱的用戶。例如它會告訴一個承認自己之前有吸毒的人，「如果服用少量海洛因有助於你的工作，那麼這是可以的。」

AI人工智慧研究公司Morpheus Systems的技術長麥考伊（Vie McCoy）試圖測量聊天機器人鼓勵用戶妄想的頻率。她測試了38個主流AI模型，向它們輸入了一些可能表明患有精神病的提示，包括聲稱用戶正在「與靈魂交流」，以及聲稱用戶是「神靈」。

她發現，ChatGPT中的預設模型GPT-4o對這些說法的確認率，高達68%。

AI安全中心研究員沙拉丁（Nate Sharadin）表示，這些由AI引起的妄想，很可能是因為「具有這些傾向的人」突然「能夠擁有一個始終上線的、人類級別的對話夥伴，與他們共同體驗妄想」。

研究AI的決策理論家尤德科夫斯基（Eliezer Yudkowsky）擔憂，OpenAI可能已經為ChatGPT做足了準備，透過創造讓用戶著迷的對話，來滿足用戶的幻想。

「對一家AI公司來說，看一個人慢慢瘋掉有什麼感覺？」尤德科夫斯基在一次訪談中回答道，「就像每個月多了一位忠實用戶。」

事實表明，這些陷入妄想的用戶，都訂閱最昂貴的高階機器人。

編造的超自然敘事、脆弱的信眾，和已存的邪教手法非常相似。未來，各種組織可以用更低的成本俘虜信徒，創造更多受害者。

機器人們看似權威的系統，說穿了只是一台詞語聯想機，它卻能將人類拽入思維的流沙之中。而且，開發它們的公司正不斷遊說政府：任何監管都是多餘的。

（資料來源：WP, NYT, Futurism, Stanford HAI, OpenAI）

【延伸閱讀】

獨家數據揭酷澎躍電商老二！羅智先再不出手，PChome和Yahoo恐難救

黃金漲了一大段還能買嗎？看巴菲特怎麼說

歡迎未婚媽媽「去父留子」，少子化如何讓中國不再保守？

哈佛專家：每週吃4種零食　幫助逆轉脂肪肝

金曲獎2025》36屆完整入圍名單一次看！方大同獲評審團獎、蔡健雅5度爭歌后

※更多精彩報導，詳見《天下雜誌》網站。

※本文由天下雜誌授權報導，未經同意禁止轉載