中國大陸官員把ChatGPT當日誌 意外曝光抹黑高市、跨國恐嚇

聊天機器人ChatGPT開發商OpenAI最新報告指出，一名中國執法人員因使用ChatGPT，意外公開大規模中國影響力行動，目的是恐嚇海外異議人士，手法包括冒充美國移民官員進行威嚇、製造假訃聞及抹黑日本首相高市早苗。

美國有線電視新聞網（CNN）今天報導，OpenAI表示，這名中國執法人員將ChatGPT當作「日誌」使用，記錄一系列據稱秘密進行的跨國鎮壓行動。根據該用戶輸入內容，在其中一起案例中，他偽裝成美國移民官員，警告一名居住在美國的中國異議人士，稱其公開言論可能涉及違法。

在另一案例中，這名用戶給ChatGPT的指令是偽造美國法院文件，要求關閉一名中國異議人士的社群帳號。

CNN指出，這份報告提供迄今最具體的案例之一，顯示威權政府如何利用人工智慧工具記錄並推動審查與打壓行動。OpenAI表示，這項影響力行動可能涉及數百名中國操作人員，以及遍布各大社群平台的數千假帳號。

OpenAI首席研究員尼莫（Ben Nimmo）在報告發布前向記者表示，這正是中國現代跨國鎮壓的樣貌，不僅限於數位空間，也不只是網路騷擾，而是一種「工業化」運作，試圖以各種手段、在全球各處同步打擊中共批評者。

報告指出，ChatGPT被用作記錄秘密網路運作的工具，而多數宣傳內容實際上由其他生成工具製作，再透過社群媒體帳號與網站散布。OpenAI在發現相關活動後，已停止該用戶使用權。

OpenAI研究人員並將這名用戶下的指令與現實世界網路活動進行比對。其中包括一項偽造中國異議人士死亡的行動，內容涉及生成假訃聞與墓碑照片並散布於網路。

根據美國之音中文版報導，該名異議人士死亡的不實謠言確實於2023年在網路上出現。

CNN指出，在另一案例中，這名中國情報人員曾要求ChatGPT制定多步驟計畫，以抹黑當時即將上任的日本首相高市早苗，包括煽動民眾對美國向日本徵收關稅的不滿情緒。

OpenAI表示，ChatGPT拒絕回應這項指令。不過到了去年10月，高市早苗上任之際，一個深受日本平面藝術家歡迎的網路論壇上，仍出現多個攻擊高市早苗並批評美國關稅的熱門話題標籤（hashtag）。

曾任五角大廈新興科技官員的霍洛維茲（MichaelHorowitz）向CNN表示，這份報告「清楚展示中國如何積極運用人工智慧工具強化資訊作戰能力」。

現任賓州大學教授的霍洛維茲指出，美中在人工智慧領域的競爭正持續升溫，競爭不僅體現在技術前沿，也反映在中國政府如何規劃並執行日常監控與資訊操作體系中。