加州州長簽署AI法案 要業者公開披露風險控管措施

美國加州州議會今天宣布，州長紐松（Gavin Newsom）已將一項具突破性的法案簽署成法，要求全球最大人工智慧（AI）業者公開披露其安全協議並通報重大事件。

綜合法新社和路透社報導，SB 53法案（Senate Bill53）是加州迄今對矽谷快速發展的AI產業所祭出的最重要監管措施，同時維持其作為全球科技樞紐的地位。

紐松今天簽署州法，要求聊天機器人ChatGPT開發商OpenAI和其他科技巨頭公開說明降低其尖端AI模型可能帶來災難性風險的計畫。

他說：「加州已經證明，我們有能力制定規範來保護社會，同時確保日益成長的AI產業持續蓬勃發展。」

紐松辦公室表示，這項新法填補了美國國會迄今尚未通過具全面監管效力AI法規的空白，且可作為全美各州效仿的範例。

提案人、州參議員威善高（Scott Wiener）在聲明中表示：「面對像AI這樣具變革性的技術，我們有責任支持這種創新，同時設置合理的安全防護措施。」

在科技業者強烈反對下，紐松去年否決威善高提出的SB-1047法案。SB 1047法案要求AI開發人員對自己的模型進行安全測試。

而川普政府在7月公布一項雄心勃勃且主張放鬆監管的AI戰略，希望推動大型科技公司在AI領域持續領先中國，並鞏固美國在這個快速擴張領域的主導地位。

根據加州這項新法，大型AI公司必須以經過編修或刪減的形式公開披露其安全保障協議，以保護智慧財產。一旦發生重大安全事件，包括模型驅動的武器威脅、大型網路攻擊或模型失控，業者必須在15天內向州政府通報。

此外，這項立法也為揭露危險或違規行為的吹哨人提供保護。

威善高指出，加州的做法不同於歐盟的人工智慧法（AI Act），歐盟要求企業向政府機構進行私人披露，而SB 53法案則要求公開披露，以確保更大的問責性。

這項法案還包括被支持者稱為全球首創的條款，即企業必須通報AI系統在測試期間出現的危險欺騙行為。

舉例來說，假如AI系統謊報旨在防止其協助製造生物武器的控制措施有效性，這種情況實質上增加了災難性危害的風險，開發者就必須揭露該事件。

這項法律背後的工作小組由多位知名專家領導，其中包括被譽為「AI教母」的史丹佛大學（StanfordUniversity）教授李飛飛。