Google技術長來台開講!稱AI將指數級成長 看懂TPU與資料中心設計邏輯

SEMICON Taiwan 2026國際半導體展今(2)日開展,Google技術長兼AI基礎建設資深副總裁Amin Vahdat擔任大師論壇的首位主題講者,這也是他首度在亞洲對外開講。對於人工智慧(AI)的演進發展,他認為,AI目前發展已從「生成式AI」進入「代理式AI」,但未來會進入到「Agent to Agent」時代,代理式AI彼此自動對話,AI應用會呈指數級成長,全球算力需求已無上限。
過去3年,全球布建AI資料中心,大多以輝達的GPU(繪圖處理器)算力為首。不過,隨著Google設計的TPU(張量處理器)爆紅,科技圈也開始關注起Google對AI基礎建設、TPU的設計想法,因為Googe這款晶片不只自用、還會外售,連帶相關合作夥伴、供應鏈也都一起受惠。
也因此,Google技術長這次在SEMICON的演講就更廣受市場關注。
Google很早之前就開始設計TPU。早在2013年時,Google就發現,語音辨識、圖像搜尋、翻譯等應用快速爆發,如果全球用戶每天多使用幾分鐘的語音搜尋,Google就必須把現有資料中心規模擴大一倍,主要原因在於CPU(中央處理器)、GPU屬於通用型設計,在執行神經網路時,相當耗能。為了避免資料中心花費過多的電力與硬體成本,Google自2013年底就啟動第一代TPU專案計畫,並於2015年起,在內部開始使用TPU。
如今,TPU已經發展到第8代。而且,第8代TPU首度採取雙晶片策略,TPU 8t專攻AI訓練,TPU 8i專攻AI推論。
之所以要將TPU做更細的劃分,自然也與AI的未來發展有關。Amin Vahdat說,未來的AI互動模式,會從人與AI互動,進一步發展為「Agent to Agent」對話,這也將驅動各種AI應用呈現指數級成長。
他表示,即使透過各種優化讓AI模型運算效率提升1000 倍,需求也不會減少,因為AI會解鎖人類過去無法想像的新領域,例如,Google的AlphaFold 3能在幾小時內預測蛋白質結構,這對新藥開發領域帶來相當大的幫助。
隨著AI需求持續上升,Google思考的是未來AI基礎建設如何架構。Amin Vahdat表示,這也代表晶片、軟體、網路、機架、資料中心、電力都不能分開設計,必須要全部一起設計。這也就是為什麼Google需要提前2-3年就先規畫硬體,AI基礎建設團隊也必須要同時與模型設計團隊、台灣供應鏈保持密切合作。
面對未來AI發展的瓶頸,Amin Vahdat說,真正的瓶頸不一定是「算力」,而是「電力」與「資料搬移」。他表示,「運算很便宜,但是,要把資料搬到運算單元非常昂貴」,因此,未來Google晶片架構的重要設計方向之一,就是盡可能地減少資料移動,因此,第八代TPU也將網路連接與運算整合,降低資料傳輸帶來的能源成本。
由於AI運算非常耗電,各界對於也對「電力」也相當重視。Amin Vahdat提到,資料中心不是只追求算力,還必須考量當地的能源可靠度,與整體基礎建設帶來的影響,因此,Google長期目標是仍然是推動7天、24小時無碳能源,並透過風電、太陽能、電池、地熱等方式增加能源供應。
面對外界質疑AI是否有泡沫化的跡象時,Amin Vahdat表示,「我不是經濟學家,所以無法判斷」,但可以確定,全球轉向AI的趨勢非常真實。
他也以「Google搜尋」為例,他指出,「Google搜尋」過去一年完成AI重大升級之後,「它現在變得更好了」,從數據上來看,Google搜尋使用的年增率高達18%,廣被全球各地的人廣泛使用;他也再以25年前網際網路的發展為例,他表示,當時社會上也曾出現「網路泡沫」言論,但不代表網路長期發展趨勢是假的,走過2001年網路泡沫之後,網路現在也近一步改變社會與科技產業,而AI帶來的技術轉型與機會都是真實的,並將在未來改變世界。
訂閱《科技玩家》YouTube頻道!
💡 追新聞》》在Google News按下追蹤,科技玩家好文不漏接!
📢 Google Pixel 11 Pro XL開箱!實測7功能變追星機 一鍵抓拍、120倍變焦還能建名片檔
📢買iPhone Ultra有代價!蘋果首款摺疊機少5大功能 定價破6萬
📢北捷「白色機器」藏回饋金!TPASS 2.0、北捷常客優惠不一樣 教你兩邊一次拿
📢 iPhone別急著年年換!通訊行揭最佳時機:殘值高、機況好
📢2號碼開頭電話快掛掉!Whoscall揭詐團新招:接聽秒被當肥羊
📢 LINE推「編輯訊息」新功能!發錯訊息15分鐘內都有救 免費開啟方式看這
延伸閱讀
贊助廣告
udn討論區
- 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
- 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
- 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
- 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。









