製造分裂對立？陸團體日增...OpenAI：利用ChatGPT從事惡意操作

聊天機器人ChatGPT的開發商OpenAI在今天發布的報告中指出，利用其人工智慧（AI）技術從事秘密行動的大陸團體有與日俱增趨勢。

路透社報導，OpenAI表示，儘管這些團體的行動範圍和運用技巧已然擴大，偵測到的行動總體規模通常較小而且只針對有限的對象。

ChatGPT於2022年底問世後，就一直存在生成式AI技術會帶來何種潛在後果的疑慮。ChatGPT能夠輕而易舉生成類似人類創作的文字、圖像和聲音。

OpenAI針對平台偵測到的惡意活動定期發布報告。

在一起案例中，OpenAI封鎖了一些ChatGPT的帳號，這些帳號生成與大陸相關的政治和地緣政治話題社媒貼文，包括批評一款以台灣為主題的電玩遊戲、對一名巴基斯坦維權人士的不實指控，以及與美國國際開發總署（USAID）關閉的相關內容。

部份內容也批評美國總統川普的全面性關稅，並生成社群平台X上的貼文，例如：「關稅讓進口商品貴得離譜，政府卻在對外援助上亂花錢，這苦果還得我們繼續吞？」

在另一個案例中，與大陸相關的威脅行為者利用AI支援其網路行動的不同階段，其中包括開源情報蒐集、腳本修改、系統配置故障排除，以及開發用於密碼暴力破解和社群媒體自動化的工具。

OpenAI發現的第3個案例是源自大陸的影響行動，該行動製造分裂議題社媒貼文，分別支持美國政治議題中對立的雙方，並搭配AI生成的帳號頭像。

大陸外交部未立即回應路透社針對OpenAI報告的評論請求。

OpenAI宣布在新一輪融資中籌集400億美元，融資後OpenAI估值達3000億美元，鞏固其身為全球最有價值的未上市公司之一的地位。