管還是不管：人工智慧的治理趨勢

※如欲轉載本文，請與北美智權報聯絡

【撰文╱攝影：吳碧娥╱北美智權報　編輯部】

鑑於生成式人工智慧技術飛速發展，主要國家開始積極對人工智慧技術發展布局，如歐盟提出著名的《人工智慧法草案》（AI ACT）、美國提出《人工智慧風險管理框架》（AI RMF 1.0），白宮也正在研議生成式人工智慧對於政府及企業可能帶來的衝擊與影響。為了避免使用人工智慧的結果產生更多錯誤、歧視與偏見，針對人工智慧的研發與應用立法制定規範，確有其必要性。

資策會科技法律研究所近日舉辦「2023科技法制變革論壇─AI生成時代所帶動的ChatGPT法制與產業新趨勢」，從國際上主要國家對人工智慧的治理趨勢，討論人工智慧技術對當下法律的衝擊。資策會科法所所長蕭宏宜認為，因人工智慧自動生成內容（Artificial Intelligence Generated Content，簡稱AIGC）工具的廣泛應用，生成式AI以資料、算力、算法共同協作出內容，但若使用者提出惡意指令、錯誤資訊或不實話術，由人輸入的內容將會觸發系統上的漏洞。AI模型的學習能力也可能讓生成內容產生隱私、侵權與歧視的風險，在政府未予以管控的狀況下，造成犯罪機會的增加。如何因應生成內容於個人資料保護、著作權、營業秘密等不同議題所產生的挑戰，成為國內外日益關切的議題。

人工智慧可能有什麼風險？

資策會科技法律研究所副所長顧振豪指出，人工智慧可能為社會帶來的各種衝擊，首當其衝的是失業問題。根據研究分析，預測在2030年前全球大約2000萬個工作將消失，這些工作崗位將由自動化系統承擔；而且這些失業工人如果想到其他低技術行業另謀出路，也會發現這些職位也早已被機器佔領，未來唯有稀少性的勞動力，才得以繼續維持高薪資。AI對社會的另一項衝擊是歧視與偏見，在新冠疫情之下，許多企業開始採用遠端AI面試，希望透過數據分析，更加客觀地評估應徵者。但現今的AI大多採用監督式學習（supervised learning），會依照提供給它的訓練資料推斷出規律，再把規律套用在未知的資料上，結果有可能複製甚至更放大人類社會中長久以來的偏見及不平等。

從開發、設計及製造端來看，人工智慧透過演算法複製或放大歧視與偏見（Bias），還有可能侵犯到個人資料隱私；演算法的黑箱主要會產生資料攝取的漏洞，若演算法本身出現錯誤也難以得知。從人工智慧應用端而言，由於交通環境的複雜性，要將所有安全條件都考慮進去並進行測試有其困難度、人工智慧應用在醫療設備的準確度將對人類的身體健康產生直接影響、將機器學習納入軍事系統有可能創造新的資訊安全漏洞和網路攻擊手段。

此外，貧富差距擴大也是人工智慧值得擔心的議題之一，顧振豪解釋，下一波的自動化將大大增加社會中的不平等，並使貧富差距劇烈擴大，AI資源掌握在富者或財團手中，使富人利用AI取得更多財富，窮人不僅面臨失業危機，也會造成新興國家成長停滯、加速勞動力過剩問題。人工智慧的發展可能使社會不平等更加惡化，人類接受的資訊更易受到演算法的控制，讓財富集中在少數得以掌握人工智慧者身上。

因為人工智慧仰賴各種來源的資料，同時還得考量演算法的多元複雜，資料治理對人工智慧發展至關重要，必須針對這些資料進行一定程度的監督機制與管理，避免人工智慧的結果呈現出更多錯誤、歧視、偏見。為了解決偏見問題，紐約市在2021年12月通過針對自動化就業決策工具的立法，原則上禁止雇主直接使用自動化的就業決策工具進行雇用判斷；而歐盟《人工智慧法》草案將用以決定是否雇用員工之AI系統列為高風險，在進入市場之前須先遵守嚴格義務。

主要國家治理趨勢觀察

顧振豪指出，觀察主要國家對於人工智慧的治理，可發現三大趨勢。第一種是促進可信任的AI，包括經濟合作暨發展組織（OECD）、人工智慧全球合作組織（GPAI）等國際組織都提出人工智慧發展倫理原則，強調要重視對社會可能帶來的影響與衝擊，必須預先準備，因此各國都在積極提倡加上AI的可信任度。第二是技術與產業先行，聚焦於共識與技術標準的形成，當務之急是國際間合作，共同推動產業發展，強化AI人才培育、基礎建設與研發投資。第三種趨勢是避免扼殺創新的監管，因為人工智慧技術發展快速，傳統監理模式難以跟上創新速度，為了避免扼殺創新，必須設計新型態的AI監管模式或治理措施，目前仍先以促進自律為主要的監管方式。

檢視歐盟人工智慧規範的推進歷程，正在從自律走向他律、鼓勵與監管並進。為了推行人工智慧的倫理準則，歐盟在2020年發布《人工智慧白皮書》，針對歐洲未來人工智慧規範框架。顧振豪指出，歐盟《人工智慧白皮書》建議的政策框架有兩大重點，首先是 打造一個「卓越生態系（ecosystem of excellence）」，從研究出發，促進創新，提高使用人工智慧的動機，最後達到人工智慧的普及應用；其次是打造「信任生態系（ecosystem of trust）」，根據人工智慧高級專家委員會提出的可信賴的人工智慧的要件，透過以「人為本」的作法來達成。

2021年4月，歐盟針對人工智慧法律框架提出《人工智慧法》草案，目標是確保投放至歐盟市場的人工智慧系統是安全的，且尊重基本權與歐盟現行法律規範，除了必須強化歐盟現行法律的有效執行與治理，還要進一步適用於人工智慧的權利與安全要求，建立合法、安全和可信賴的人工智慧系統，預計2024年正式施行。

人工智慧應如何規管？

隨著人工智慧發展帶來的影響與挑戰增多，國際間開始熱烈討論是否應針對人工智慧研發與應用立法。顧振豪認為，整體而言，法律對於人工智慧的規範仍有其必要性。這一波生成式AI的發展，如同Internet在上個世紀所帶來的巨大衝擊，因此可從網路的發展脈絡再次審視人工智慧，並參考對當初對於網路規管的架構與模式。

觀察人工智慧規範架構的國際趨勢，各國多以政策文件宣示人工智慧的倫理原則，目前僅有歐洲跟加拿大針對人工智慧技術訂定監管方向的專法草案，當AI應用至各產業主題時，需符合各領域相關的法令規定。而美國、日本、英國、澳洲等其他主要國家，目前對於如何監管人工智慧仍高度不確定，因為擔心採傳統的監管模式會扼殺創新且無法跟上技術發展，現階段仍暫偏向先以推動產業發展與自律為主，並透過國際合作訂定出一套國際標準。

人工智慧為近代影響人類社會發展的重要科技，顧振豪建議，台灣應由中央科技主管機關擔任主責單位，並制定屬於人工智慧領域之綱領性、原則性及政策性內容的專法，並將人工智慧可能帶來的風險降到最低；由於人工智慧發展會涉及各部會職權，因此也應建立跨部門協調機制。此外，國際趨勢強調「可信任」的人工智慧，台灣在人工智慧推展上，應以OECD與聯合國所提倫理原則為基本方向，建立國際合作與技術標準是當務之急。

資料來源：

2023/5/29，資策會科技法律研究所《2023科技法制變革論壇》。

【詳細內容請見《北美智權報》334期；歡迎訂閱《北美智權報》電子報】