全球率先開鍘 大馬、印尼封鎖Grok防AI生成色情影像

馬來西亞與印尼近日相繼封鎖AI聊天機器人Grok的服務，成為全球首批採取此措施的國家。兩國監管當局指出，Grok被用來生成色情露骨且未經同意的影像內容。

Grok先前因為其人工智慧（AI）圖片生成功能，允許用戶透過簡單指令便能將女性及兒童照片色情化，引發全球譴責。印尼政府10日暫時封鎖Grok，馬來西亞在翌日跟進。

印尼通訊與數位部長穆迪雅（Meutya Hafid）10日發表聲明指出：「政府認定未經同意生成的深偽（deepfake）性影像嚴重侵犯人權、尊嚴及公民數位空間安全。」

馬來西亞通訊及多媒體委員會（MCMC）則表示，Grok屢遭濫用，被用來生成猥褻、色情露骨及未經同意的變造影像，包括涉及女性與未成年者的內容。

在東南亞國家對Grok採取限制措施的同時，歐洲聯盟（EU）、英國、印度與法國等地也正加強對Grok的審查。

Grok因深偽性影像在全球引發反彈，上週已限制影像生成與編輯功能，僅供付費用戶使用，但外界批評，相關措施仍不足以徹底解決問題。