會計師看時事／淺談AI管理制度ISO 42001

人工智慧（AI）的發展可以追朔到1956年在達特茅斯（Dartmouth）的會議，該次會議定義許多重要的問題，如自然語言處理、神經網路與計算理論等驅動近代電腦科學發展的議題。1960年代AI領域出現了一些重要的技術和方法，如基於規則的專家系統、機器學習和圖像識別等。

之後的發展包括1966年由Joseph Weizenbaum開發的ELIZA，一個可以透過英文與人進行交談的程式。1997年由IBM開發的Deep Blue深藍成功挑戰西洋棋世界冠軍。2011年IBM的Watson問答機器人成功在美國的智力問答節目贏過當時的冠軍。2015年微軟的深度學習技術，以96%影像辨識準確率首次超越人類的水準。2016年Google的AlphaGo贏過世界圍棋冠軍柯潔。2022年底OpenAI的生成式AI機器人ChatGPT橫空出世。

人工智慧的好處大致可以歸類五項，分別是提高生產力與效率、改進客戶體驗、加速資料分析能力、降低風險與成本，以及協助人類提高創新能力。然而AI快速的發展也帶來新的挑戰，其中如何建立一個可信任的AI系統最令人關注。

國際標準組織正在發展ISO/IEC 42001，目前已於2023年12月完成FDIS投票，並於2023年底推出正式版，這個AI國際標準有幾項特點：

一是全世界第一部可以驗證的人工智慧的管理制度標準。二為提供組織在範圍內建立、實施、檢討和行動的人工智慧管理系統。三、定義AI開發者、維運商、使用者的角色與責任。

四、適用於任何提供、使用AI人工智慧系統的產品或服務的組織。五、可以跟ISO其他管理制度高度整合。

ISO 42001本文也採用Annex SL架構，同ISO 27001、ISO 9001等。附錄A有九個控制領域包含共39個控制措施，附錄B則為控制措施的參考指引、附錄C則提到AI相關組織目標及風險來源、附錄D為跨行業或領域，如：健康、防禦、運輸、金融、就業、能源等，以及不同ISO標準運用AI的使用指引、AI產品與流程及服務的驗證注意事項。

以B.6.2人工智慧系統生命周期為例，重點包括負責任地設計與開發可信任的（Trustworthy）AI系統、定義AI的設計與開發過程、明確AI系統的需求與規格、確保AI的設計與開發過程文件化、對AI進行驗證和確認（Verification and Validation）、對AI的部署進行管控、對AI的運作和監控進行控制、確定所需的AI系統技術文件、 對AI系統的事件日誌進行記錄。

AI新時代的來臨，為人類生活迎來新階段的工業革命，小至個人、大至社會甚至國家都將受到衝擊。對於企業而言，資訊的演進確實帶來了便利性，但也可能引發更多的問題。企業在管理或使用AI上須留意相關規範，藉由新興科技運用，強化競爭力。