ChatGPT之後是AGI？ 一文看懂通用人工智慧與AI代理的關鍵差異

通用人工智慧

在不久的將來，我們可以預期AI 的運行規則會有新的進展，且會出現比現今更為精密的進步。現有模型的延伸將使AI 更加聰明、精準且可靠。同時，訓練與推論的成本也在快速下降，讓各種能力與價格等級的AI模型廣泛普及。

如今，許多科學家正致力於開發所謂的「代理系統」（agents）──也就是被最佳化以達成特定目標的自主電腦程式。舉例來說，在執行一項複雜的建築設計時，用戶可以運用專門處理該類任務的代理系統。這類代理系統可評估不同情境，提出一系列步驟或完整方案，以創造預設結果──這是一種「思考」的形式，系統會自行決定接下來該處理什麼任務，以及如何進行。

這種能力將成為AI 下一個發展階段的基礎：也就是所謂的「通用人工智慧」（Artificial General Intelligence，AGI），其定義是：一個系統能夠（至少部分地）自行選擇目標。

假設通用人工智慧具備相關專業知識與精確的解題能力，人類可能會向它下達像這樣的指令：「請評估你在某個領域的知識，然後選擇一個你認為今天最能發揮影響力的主題來著手處理。」這樣的請求若不斷重複，就會形成一種循環──系統透過持續評估自身的專長與可解決問題的範圍，擬出對應的解決方案。

即時學習、接受回饋

在人類社會，這樣的情況可能類似學術領域中，資深教授指導博士後研究員進行具體研究計畫。而在快速發展中的AI 應用場域中，我們初期更有可能看到的不是全面技能的系統，而是在特定領域展現極端專業的通用人工智慧。

可以想見，未來的通用人工智慧系統能夠即時學習、接受回饋，並與數百萬個高能力夥伴共同協作、持續進化。雖然人類不再定義系統的目標，但通用人工智慧本身也不會以終極任務的方式自我定義目標。

與今日的AI 相比，通用人工智慧將需要更加深厚的「現實世界基礎」。但一旦它掌握並理解現實世界，這類通用智慧的應用就有可能在幾年內出現，而非如過去預測的幾十年。每個模型都會透過持續的微調程序即時更新，隨著新的現實資訊進入系統，其知識將持續累積、智慧也將隨之增長。

未來將有數百萬個AI 系統，同時具備高度專精與深度整合於我們日常生活中的特性；但也將出現少數極為強大的系統，擁有「通用智慧」，只是這種智慧仍非人類形式。無論系統是開放而分散，還是封閉而集中，一旦進入通用人工智慧階段，這些電腦系統有可能彼此連結。專家型代理系統將能橫跨不同主題互相諮詢，甚至在假設性問題中進行「對話」，而這種語言本身可能完全由電腦所設計出來。

連網智慧體

這個龐大的電腦集團將以超越人類經驗的方式，進行學習、分享與探索全新的行動與目標。這樣的網路所產出的結果是否能被人類理解，目前尚不可知。事實上，現今已有大量電腦以特殊模式彼此溝通；而隨著AI 能力的進化，這個狀況可能出現劇烈變化。

那麼，這些「連網智慧體」是否會讓其運作過程比單一AI 更難理解？這樣的連結是否會催生意料之外的新行為模式，並在現實世界中具體展現？

如果會，那麼這些行為是否可被人類察覺？我們能否將它們放在善與惡的光譜上加以評價？又或者它們是以超越人類速度、規模與解析度，從各種看似無關的領域擷取資訊，整合或協調出一個輸出結果──這樣的過程可能讓我們根本無法判斷其行為，甚至陷入一種日益加深的被動狀態？

（本文摘自《AI創世紀》作者：亨利．季辛吉（Henry A. Kissinger）, 艾力克．施密特（Eric Schmidt）, 克雷格．蒙迪（Craig Mundie）譯者：陳冠吟)