ChatGPT執行長:AI應成立監管機構
研發製造ChatGPT的OpenAI公司執行長奧特曼十六日在參院聽證會表示,政府干預,對減輕日益強大的人工智慧(AI)系統風險來說至關重要;他提議成立一個美國或全球監管機構,為強大的AI系統頒發許可證,並有權「取消許可及確保符合安全標準」。
奧特曼坦承,「隨著AI科技的進步,我們明白世人對AI將如何改變我們的生活方式感到焦慮。我們也有同感。」在被問及他最擔心AI什麼事時,奧特曼迴避談論細節,只說它可能會「對世界造成重大傷害」,「如果這項科技出了問題,可能會大錯特錯」。
他提議以全新監管機構實施保障措施,阻止AI模型「狂放的自我複製和自我滲透」;此說法暗示了對未來先進人工智能系統的擔憂。
位於舊金山的OpenAI初創公司去年底發布免費聊天機器人ChatGPT後,迅速引起公眾關注。人們從一開始教育界擔心ChatGPT被用來作弊,現已擴大到各界廣泛擔憂生成式AI工具會誤導人類、傳播謊言、侵犯智財權和顛覆某些工作。
歐洲立法者將全面制定新AI規範,美國機關已承諾打擊違反現有公民權利和消費者保護法的有害AI產品;奧特曼及其他科技公司執行長則被請到白宮進行討論。
參院司法委員會隱私、技術和法律小組委員會主席、康乃狄克州民主黨參議員布魯曼索表示,AI公司應被要求在發布產品前測試其系統並披露已知風險,他對未來AI系統如何破壞就業市場的穩定,特別擔憂。奧特曼基本同意此說,但對工作的未來持更樂觀看法。
IBM隱私信任長蒙哥馬利 和紐約大學名譽教授馬庫斯十六日也受邀作證。馬庫斯與一群AI專家共同呼籲OpenAI等科技公司暫停研發更強大AI模型半年,好讓社會有更多時間考慮風險。
密蘇里州共和黨參議員霍利說,AI科技對選舉、就業和國家安全具重大影響,十六日的聽證是「了解國會該做什麼的關鍵第一步」。
延伸閱讀
贊助廣告
商品推薦
udn討論區
- 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
- 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
- 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
- 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
FB留言