英韓AI峰會 陸企簽署AI安全承諾

英國與南韓廿一至廿二日共同舉辦人工智慧（AI）安全峰會。英國政府表示，已有來自北美、歐洲、中東、亞洲等十六家企業簽署與AI科技研發有關的安全承諾，其中包括中國企業「智譜AI」。

中央社報導，英國政府尋求在AI安全國際規範和技術標準扮演領導角色，促進在「嚴加管制」和「自由放任」兩種AI安全管控策略之間取得平衡，並成立全球第一所「AI安全研究院」，透過預先取得業界開發中產品等方式，實際測試評估各類新AI模型和工具的能力及風險，以協助增進各國對AI安全的理解。

去年十一月，英國召開首屆全球AI安全峰會，有近卅個國家的官方代表，以及超過八十個學術研究機構、企業和組織與會。這次英國與南韓合辦線上峰會規模較小，下一場實體峰會則由法國主辦，明年召開。

英國科學創新暨科技部說，已有十六家AI科技企業簽署安全承諾，要點包括不得發展或部署安全風險無法獲充分緩解的AI模型或系統、建立可供問責的安全管理架構，以及向大眾揭露各企業對前沿AI科技安全的應處策略。

十六家簽署「前沿AI安全承諾」企業包括OpenAI、亞馬遜、谷歌、Meta、微軟、IBM、三星電子、Naver、智譜AI等。這十六家企業名單，包含美國和中國大陸兩大AI強權。

科技部表示，這些企業將各自發布AI安全框架，向大眾說明未來將如何測算自家前沿AI模型的安全風險，包括遭惡意行為者濫用的風險，以及各家企業對安全風險的最高容忍極限、如何確保AI模型的安全風險不會超越此預設門檻。在極端情況下，若企業未能將AI模型安全風險保持在門檻以下，則不得繼續發展或進一步部署該模型。

南韓表示，本次峰會與首次峰會相同，邀請七國集團（G7）成員國領導人以及新加坡、澳洲領導人與會，聯合國、歐盟等國際機構和相關企業代表也將參與。