傳OpenAI僱真人閱讀ChatGPT對話改善回覆 恐接觸到私人資訊

科技媒體404 Media揭露，OpenAI透過名為「Project Lily」的計畫，聘用數百名承包商，以人工方式閱讀ChatGPT對話，以此改善模型回覆問題的品質，但這些「真人」在審查過程中，也可能接觸到私人資訊。

這些「提示詞審查員」（prompt reviewers）的主要工作，是閱讀經匿名化處理的真實對話，評估ChatGPT回覆是否切題，以及是否過度使用「AI腔」等，據稱時薪超過50美元。

OpenAI向404 Media承認，雖然對話會先經過匿名化處理，審查員也看不到用戶名稱，但過濾程序可能讓部分個資流出，特別是簡短的對話。交給審查員的資料，還包括「使用者記憶摘要」，內容涵蓋用戶的提問、興趣、相關背景，甚至所在位置。

一名審查員表示，他認為多數使用者恐怕不知道自己的對話可能被他人閱讀。

目前，ChatGPT的個人版Free、Plus和Pro版本，將「允許聊天紀錄被用於改善模型」這個功能預設為「開啟」，企業版、Business及教育版則預設為「關閉」。然而，關閉這項設定不具追溯效力，意味著先前對話仍可能留在資料庫裡，即使之後刪除，也可能早已被匿名化並納入某個資料集。

404 Media的報導刊出後，OpenAI修改其「輔助說明」頁面，向使用者解釋如何退出資料蒐集的選項，但並未提及人工審查人員。

這項計畫的存在也顯示，模型並非只靠技術進步和更優質的訓練資料就能持續改善，看來仍需要人類參與其中。