AI道德引熱議 阿特曼：ChatGPT推出後夜難成眠

OpenAI執行長阿特曼（Sam Altman）罕見接受保守派主持人卡爾森（Tucker Carlson）專訪，被犀利追問ChatGPT的道德準則由誰決定、及被控鼓勵輕生時，阿特曼最終坦言，自從ChatGPT推出後，便夜難成眠。

美國社會正因保守派新星柯克（Charlie Kirk）之死，深刻反思「自由與安全」的界線。卡爾森訪問阿特曼的影片10日播出，談到自由與安全權衡，在網路上掀起討論。

開場不久，卡爾森便緊追不捨地問阿特曼是否相信上帝，隨後表示：「因為你現在推動的技術，照這個趨勢發展，會比任何人都要強大...你會比任何一個人更有權力。」

阿特曼表示，以前很擔心權力會集中在一個人或少數幾家公司手上，但現在情況是，大量的人開始使用聊天機器人，大家的能力都變強了，能勝任的任務也變多了。

卡爾森又問：「（AI模型）技術的道德準則是什麼？」背後是誰在決定何謂準則。

在卡爾森攻勢之下，阿特曼說：「我們確實有一個模型行為團隊，他們負責這一部分任務，而這確實會影響到全世界」。他並補充說自己應該是最終為決策負責的人。

卡爾森繼續問道：「你晚上躺在床上會不會想，世界的未來竟仰賴我來做出判斷。」

阿特曼表示，「沒有什麼事比每天有數億人與我們的模型對話更讓我感到壓力沉重了」。

OpenAI自2022年底推出ChatGPT，全球活躍用戶上個月估計每週達7億人次。

阿特曼補充：「我們針對模型行為所做的那些極小的決策，可能只會讓模型表現得稍微不同，但因為有數億人在使用，所以影響會被放大，變得非常、非常巨大。」

他進一步解釋：「我並不是在說我的角色是去做出道德決策，但我認為我的角色是確保我們能準確地反映人類的偏好，或者說，就目前而言，是我們用戶群體的偏好。」

訪談中，阿特曼數度停頓思考該如何作答，但似乎沒有任何閃避的空間。卡爾森更犀利地詢問ChatGPT被指控鼓勵輕生、以及技術被用來執行殺人任務的爭議。

美國加州一對夫妻近日在痛失16歲愛子後，對OpenAI提出告訴，指控ChatGPT不僅提供他們兒子鉅細靡遺的自殺方式，還鼓勵輕生。阿特曼說，這起事件是個悲劇。

卡爾森一度直言，「我只是想試著深入你的內心，找出那個充滿焦慮的阿特曼」。

阿特曼形容，自從ChatGPT推出以來，夜晚便沒睡過一天好覺。輕生問題令人擔憂。

阿特曼表示，全球每週約有1萬5000人輕生；假設其中有10%的人是ChatGPT用戶，那可能有約1500名懷有輕生念頭的人曾與聊天機器人對話，最終仍選擇結束生命。

他說：「我們或許沒能挽救他們生命，也許我們可以回答得更好，或更主動一點。」

阿特曼也透露，OpenAI正尋求一種機制，假使未成年用戶認真與ChatGPT討論輕生，而系統無法聯絡其父母，可能會通報相關單位，但這還不是OpenAI的最終立場，因為這樣做可能會與使用者隱私產生衝突。他說，ChatGPT不該支持或反對任何事情。