陸開源AI拓展海外市場 北京憂「數據投毒」等風險

中國企業透過開源AI模型快速拓展海外市場，但其開放性也引發北京憂慮。美媒指出，官方擔心模型可能遭駭客、詐騙集團濫用，甚至繞過內容審查，造成資料投毒或生成具有政治顛覆性回應。

分析認為，中國希望藉由推動AI技術與標準擴大全球影響力，未來將在擴大開源與強化安全管控之間尋求平衡。

據紐約時報中文網，開源模型幫助中國企業在海外擴大影響力，但其開放性也讓北京感到擔憂。中共擔心該技術可能被駭客、詐騙分子、恐怖分子或其他試圖在中國製造危害的惡意行為者利用，擔心模型可能繞過其嚴密的審查過濾機制。

大陸國家主席習近平在最近的一次講話中表示，雖然中國支持人工智慧開放合作，但防範失控的措施要及時完善。

卡內基國際和平基金會高級研究員希恩指出，中共是一個把安全放在首位的體制，尤其是在習近平領導下。北京擔憂先進模型可能實施網路攻擊、繞過安全防護，或者使設計和製造危險新病毒及其他生物製劑變得更加容易，「如果這些模型真的具備了那種危險能力，他們絕不會任由其毫無限制地向公眾開放」。

報導提到，在北京近期舉行的一次網路安全會議上，與會者就數據洩漏、深度偽造圖像等風險發出警告。專家提醒，由於突破性模型的出現，例如Anthropic為尋找軟體缺陷而設計的高級系統Mythos，中國比以往任何時候都更容易受到網路攻擊。

會議還討論到「數據投毒」的問題，也就是攻擊者向人工智慧聊天機器人投餵被操縱的數據以扭曲結果。北京方面認為，此類手段可能被用來讓人工智慧系統生成「具有政治顛覆性的回應」，這可能包括提供關於國內抗議活動的資訊，或傳播削弱官方關於新疆和台灣敘事的事實。

分析人士認為，中國的長期目標是透過制定全球人工智慧標準在競爭中搶在美國前面，並讓世界依賴中國的軟體、硬體以及數據系統。考慮到這些利害關係，如果中國決定對某些人工智慧系統的海外訪問施加限制，它會努力在開放與管控之間尋求平衡。