馬斯克旗下AI聊天機器人Grok生成不雅圖 法國、印度要求回應

馬斯克旗下xAI因AI聊天機器人Grok回應使用者提示，2日大量生成未成年人不雅照以及各種帶性暗示的圖片，引發網友強烈反彈，甚至讓其他國家密切關注，法國已下令檢察官調查，印度也要求X提交一份因應措施。Grok則在X上回覆，正「緊急修復」相關問題，並警告兒童性剝削製品屬於「非法且被禁止」。

CNBC與BBC報導，Grok是一款免費的AI助手，部分進階功能需付費，常被用來對其他貼文給出反應或補充背景資訊。當X用戶在貼文中標註Grok時，Grok便會回應使用者的提示詞。不過，在聖誕節前新增的編輯圖片功能，允許任何使用者在無須原始發文者同意的情況下，透過文字提示來修改影像，甚至生成含有裸露或帶有性暗示的影像，從而引發批評。

自由記者兼評論員史密斯就向BBC表示，有人用Grok數位移除她的衣物，讓她感到自己「沒被當人看，只是被簡化為一種性刻板印象」。

BBC在「X」發現多起案例，有人要求Grok替女性「脫衣服」，並在未經同意的情況下，讓她們看起來像穿著比基尼，甚至被置於帶有性暗示的情境中。史密斯在「X」發文分享自己影像遭竄改的經歷，陸續有其他遭遇相同情況的使用者留言回應，之後又有人進一步要求Grok生成更多她的影像。

她強調：「女性並沒有同意這樣的事情。雖然衣衫不整的並不是我本人，但看起來像我、感覺像我，那種感受就如同真的有人發布了我的裸照或比基尼照片一樣，令人感到被侵犯。」

xAI並未回應媒體詢問，僅發出一則自動生成的回覆稱「傳統媒體在說謊」。不過，Grok的貼文為AI生成內容，並不代表公司的正式聲明，xAI技術人員塔吉克也發文承認相關問題。他在回覆中寫道：「嘿！感謝通報，團隊正在研究進一步強化我們的防護欄。」

法國政府已將相關內容向檢察官告發，促使針對X平台展開調查。印度資訊科技部也點名X平台，稱該公司未能防止旗下機器人Grok被濫用，下令必須在三天內提交「改善行動報告」。