完全監管生成式AI產業？陸網信辦等7部門發布暫行新規

中國大陸國家網信辦等7部門聯合公布「生成式人工智慧服務管理暫行辦法」，針對生成式人工智慧服務實行包容審慎和分類分級監管，明確提供和使用生成式人工智慧服務總體要求。

值得注意的是，辦法當中的第四條規定明確寫到，「堅持社會主義核心價值觀，不得生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規禁止的內容」。

綜合第一財經、觀察者網報導，「網信中國」微信公眾號指出，大陸國家網信辦近日聯合大陸國家發展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局13日就生成式人工智慧服務管理發布暫行相關辦法。該辦法將自8月15日起實施。

在算法設計、訓練數據選擇、模型生成和優化、提供服務等過程中，採取有效措施防止產生民族、信仰、國別、地域、性別、年齡、職業、健康等歧視；尊重知識產權、商業道德，保留商業秘密，不得利用算法、數據、平台等優勢，實施壟斷和不正當競爭行為；另並規定，生成式AI不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益。

據大陸國家互聯網信息辦公室負責人表示，推出此辦法，其目的是為了促進生成式人工智慧健康發展和規範應用，維護國家安全和社會公共利益，「保護公民、法人和其他組織的合法權益」。

「網信中國」公眾號消息提到，近年來，生成式人工智慧技術快速發展，為經濟社會發展帶來新機遇的同時，也產生了「傳播虛假訊息、侵害個人訊息權益、數據安全和偏見歧視等問題」，如何統籌生成式人工智能發展和安全引起各方關注。它重申，推出該辦法，既是促進生成式人工智慧健康發展的重要要求，也是防範生成式人工智慧服務風險的現實需要。

辦法提出，國家堅持發展和安全並重、促進創新和依法治理相結合的原則，採取有效措施鼓勵生成式人工智能創新發展，對生成式人工智能服務實行包容審慎和分類分級監管，明確了提供和使用生成式人工智能服務總體要求。

辦法第六條規定，鼓勵生成式人工智能算法、框架、芯片及配套軟件平台等基礎技術的自主創新，平等互利開展國際交流與合作，參與生成式人工智能相關國際規則制定。 

第七條則規定，生成式人工智能服務提供者應當依法開展預訓練、優化訓練等訓練數據處理活動。訓練則有如下要求，包括使用具有合法來源的數據和基礎模型；涉及知識產權的，不得侵害他人依法享有的知識產權；涉及個人信息的，應當取得個人同意或者符合法律、行政法規規定的其他情形；採取有效措施，增強訓練數據的真實性、準確性、客觀性、多樣性；

此外，辦法將按照「互聯網信息服務深度合成管理規定」對圖片、影片等生成內容進行「標識」。若發現違法內容應當及時採取處置措施等。辦法還規定了安全評估、算法備案、投訴舉報等制度，明確了法律責任。