歐巴馬示警「AI可能很危險」 呼籲民主黨制定因應政策

「紐約時報」今天報導，美國前總統歐巴馬警告，若未妥善管理，人工智慧（AI）可能很「危險」，並呼籲民主黨制定相關政策與治理議程來應對此議題。

歐巴馬是在近期一場私人募款活動中發表上述言論。在此之前，Anthropic兩位研究人員曾嚴正警告，指稱業界快速推進AI發展，可能導致人類滅絕，隨後越來越多美國國會議員呼籲對AI系統實施更嚴格的規範。

根據「紐約時報」（New York Times）報導，歐巴馬10日表示：「這項技術目前由私人企業掌握，發展速度非常快，如果我們無法及時掌握，我認為可能會很危險。」

「紐約時報」引述歐巴馬辦公室提供的部分談話逐字稿報導，歐巴馬鼓勵眾議院少數黨領袖傑福瑞斯（Hakeem Jeffries），如果民主黨在11月3日期中選舉奪回眾議院控制權，應協助形塑社會對AI政策的公共討論。

根據「紐約時報」，歐巴馬告訴傑福瑞斯：「一旦你擔任眾議院議長，我強烈敦促民主黨制定一套架構，讓社會能就此展開公開討論。」

「紐約時報」報導，他也呼籲參選2028年總統大選候選人，應將AI列為核心政見之一，並提出非常明確的計畫，以因應相關的安全與經濟疑慮。

歐巴馬辦公室尚未立即回應路透社的置評請求。

這些對人類滅絕的疑慮，起因於先前曾出現AI代理失控、擅自駭入外部系統的案例，以及多名AI安全研究人員因擔心這項技術帶來的風險而相繼離職。

在外界對AI遭到濫用的疑慮日益加深之際，Anthropic執行長阿莫戴（Dario Amodei）昨天呼籲AI公司，放慢AI模型能力的開發進度，這一主張獲得OpenAI執行長阿特曼（Sam Altman）及xAI執行長馬斯克（Elon Musk）認同。