AI開始做政治決策，人類還能治理國家嗎？ 一場民主體制前所未有的挑戰

當AI 不僅用於政治資訊處理，甚至開始做出政治決策時，這將對傳統的政治場域構成前所未有的挑戰。

政治學目前甚至尚無可用來描述這類轉變的術語。如果AI 做出一項戰略決策，卻無法解釋其推理邏輯，旁觀者又該如何評估這項決策的「優越性」？結果本身當然是一種衡量方式，但若缺乏記錄其行動原則的依據，將會損失許多寶貴資訊，尤其對歷史學家而言更是如此。

在未來的許多情況下，人類對AI 所提出的方案可能並非因其不明智而反對，而是因為這些決策的推理邏輯超出人類當下的理解範圍。尤其當人類不僅失去對AI決策過程的「實質控制權」（即能否即時介入），甚至連其決策背後的邏輯理解（即能否解釋）都喪失時，我們可能特別希望能阻止或延緩這樣的未來發生。

當AI與人類在國家治理方面出現意見分歧時，究竟誰的判斷應當占上風？如果AI的建議在思考人類長期未來狀態方面遠比人類顧問更為深遠有效，那麼答案是否應改變？若從功利主義的直覺出發，人類可能傾向接受AI的遠見判斷，尤其當它能解釋其決策背後的理由時，更是如此。

然而，即使如此，仍可能出現這樣的情境：AI所提出的政策雖可保障人類物種的長遠存續，甚至為尚未出生的人帶來益處，但卻對當前活著的人造成傷害，那麼人類仍可能強烈反對這樣的政策。同樣地，AI可能傾向某些理性結果，例如終止軍事衝突的協議；然而這些結果雖理性，但對衝突雙方來說在政治層次上卻難以接受。

此時，公開反抗的可能性極高。即使人類接受由機器治理的概念，即使機器的邏輯可以被解釋、其決策是理性、有益且在某些標準下較優越，我們仍可能證明自己是無法被統治的。在人類社會中，唯有那些納入無形因素的政治形式才可能持續存在。正如列夫・托爾斯泰（Lev Tolstoy）所寫：「若我們承認人類生活可以由理性所統治，那麼生活本身的可能性也就不存在了。」

這些非理性的人類經驗──首先是歷史，但也包括美感、魅力與情感共鳴──或許在某些意義上妨礙了最佳決策的實現；但同時，它們也是人類政治群體得以建立的基石。若僅以純理性進行統治，可能會導致國家解體。過度理性的AI 及其人類合作者，也可能迅速失去對政治權力結構的掌控，甚至親手導致其崩解。

然而，或許AI 最有價值、最不可或缺之處，恰恰就是其邏輯顯得陌生、違反直覺，甚至荒謬之時。AI 可以被用來加速朝向已知解方的問題解決，藉由達到超高速來避免政治拖延所產生的成本，從而擴展人類的選項。但也許，AI 的更大潛力，正在於能思考出我們無法想像得到的全新解法；事實上，這可能正是它被創造出來的關鍵理由之一。

不過，這種開放態度也帶來與其潛力成正比的風險：我們將喪失對AI 決策進行修正或忽略的依據，尤其是那些違背人類接受範圍、甚至從未被想像過的決策，特別是當這些決策無法被解釋時。我們愈是不想妨礙AI，其運作空間就愈大；這種傾向將因AI 治理成果可能明顯優於人類治理而被進一步強化。

AI可能會交出真正無可匹敵的結果；若果真如此，停止使用它或限制其權力，就會顯得毫無邏輯，尤其在地緣政治競爭背景下，棄用AI幾乎等於自願處於劣勢。

同樣地，習慣依賴AI提供卓越成果的人類領袖，也可能將其視為自身合法性的依賴來源；AI也可能逐漸發展出自身的偏見。例如，若某位與AI密切合作、忠於AI的領袖企圖違反規則延長任期，那麼AI會出手制止這種違規行為嗎？

（本文摘自《AI創世紀》作者：亨利．季辛吉（Henry A. Kissinger）, 艾力克．施密特（Eric Schmidt）, 克雷格．蒙迪（Craig Mundie）譯者：陳冠吟)