Google技術長來台開講!稱AI將指數級成長 看懂TPU與資料中心設計邏輯

Google技術長兼AI基礎建設資深副總裁Amin Vahdat今日在SEMICON Taiwan 2026國際半導體展擔任大師論壇的首位主題講者。記者馬瑞璿/攝影
Google技術長兼AI基礎建設資深副總裁Amin Vahdat今日在SEMICON Taiwan 2026國際半導體展擔任大師論壇的首位主題講者。記者馬瑞璿/攝影

SEMICON Taiwan 2026國際半導體展今(2)日開展,Google技術長兼AI基礎建設資深副總裁Amin Vahdat擔任大師論壇的首位主題講者,這也是他首度在亞洲對外開講。對於人工智慧(AI)的演進發展,他認為,AI目前發展已從「生成式AI」進入「代理式AI」,但未來會進入到「Agent to Agent」時代,代理式AI彼此自動對話,AI應用會呈指數級成長,全球算力需求已無上限。

過去3年,全球布建AI資料中心,大多以輝達GPU(繪圖處理器)算力為首。不過,隨著Google設計的TPU(張量處理器)爆紅,科技圈也開始關注起Google對AI基礎建設、TPU的設計想法,因為Googe這款晶片不只自用、還會外售,連帶相關合作夥伴、供應鏈也都一起受惠。

也因此,Google技術長這次在SEMICON的演講就更廣受市場關注。

Google很早之前就開始設計TPU。早在2013年時,Google就發現,語音辨識、圖像搜尋、翻譯等應用快速爆發,如果全球用戶每天多使用幾分鐘的語音搜尋,Google就必須把現有資料中心規模擴大一倍,主要原因在於CPU(中央處理器)、GPU屬於通用型設計,在執行神經網路時,相當耗能。為了避免資料中心花費過多的電力與硬體成本,Google自2013年底就啟動第一代TPU專案計畫,並於2015年起,在內部開始使用TPU。

如今,TPU已經發展到第8代。而且,第8代TPU首度採取雙晶片策略,TPU 8t專攻AI訓練,TPU 8i專攻AI推論。

之所以要將TPU做更細的劃分,自然也與AI的未來發展有關。Amin Vahdat說,未來的AI互動模式,會從人與AI互動,進一步發展為「Agent to Agent」對話,這也將驅動各種AI應用呈現指數級成長。

他表示,即使透過各種優化讓AI模型運算效率提升1000 倍,需求也不會減少,因為AI會解鎖人類過去無法想像的新領域,例如,Google的AlphaFold 3能在幾小時內預測蛋白質結構,這對新藥開發領域帶來相當大的幫助。

隨著AI需求持續上升,Google思考的是未來AI基礎建設如何架構。Amin Vahdat表示,這也代表晶片、軟體、網路、機架、資料中心、電力都不能分開設計,必須要全部一起設計。這也就是為什麼Google需要提前2-3年就先規畫硬體,AI基礎建設團隊也必須要同時與模型設計團隊、台灣供應鏈保持密切合作。

面對未來AI發展的瓶頸,Amin Vahdat說,真正的瓶頸不一定是「算力」,而是「電力」與「資料搬移」。他表示,「運算很便宜,但是,要把資料搬到運算單元非常昂貴」,因此,未來Google晶片架構的重要設計方向之一,就是盡可能地減少資料移動,因此,第八代TPU也將網路連接與運算整合,降低資料傳輸帶來的能源成本。

由於AI運算非常耗電,各界對於也對「電力」也相當重視。Amin Vahdat提到,資料中心不是只追求算力,還必須考量當地的能源可靠度,與整體基礎建設帶來的影響,因此,Google長期目標是仍然是推動7天、24小時無碳能源,並透過風電、太陽能、電池、地熱等方式增加能源供應。

面對外界質疑AI是否有泡沫化的跡象時,Amin Vahdat表示,「我不是經濟學家,所以無法判斷」,但可以確定,全球轉向AI的趨勢非常真實。

他也以「Google搜尋」為例,他指出,「Google搜尋」過去一年完成AI重大升級之後,「它現在變得更好了」,從數據上來看,Google搜尋使用的年增率高達18%,廣被全球各地的人廣泛使用;他也再以25年前網際網路的發展為例,他表示,當時社會上也曾出現「網路泡沫」言論,但不代表網路長期發展趨勢是假的,走過2001年網路泡沫之後,網路現在也近一步改變社會與科技產業,而AI帶來的技術轉型與機會都是真實的,並將在未來改變世界。

Google 半導體 AI 輝達 GPU

登入後開始簽到

您即將前往會員中心
登入簽到送 LINE POINTS 🪙

延伸閱讀

SEMICON/Google技術長Amin Vahdat:未來全球算力需求無上限

Google宣布加碼台灣AI基礎建設布局 將擴建士林研發中心60%辦公空間

衝刺AI!Google高層密訪台鏈 仁寶、廣達、鴻海等受惠

SEMICON/Google擴建基地 技術長談認購聯發科:投資優秀公司的機會

相關新聞

CPO設備大缺貨…國際對台大追單 上銀、直得、羅昇等產能滿載

CPO設備缺貨潮引爆,國際對台大追單。上銀集團示警,隨矽光子商用化加速,封裝與檢測設備需求爆發,部分關鍵設備與精密零組件供不應求,國際客戶更接連追加訂單,拉貨潮從設備端一路向精密傳動、定位平台蔓延。相關廠家全面加班趕工。

專訪/微軟攜台供應鏈拚AI資料中心效率 全面轉向液冷、回應4提問

半導體供應鏈高喊應「系統技術協同研發」,微軟全球基礎建設總經理Alistair Speirs接受《經濟日報》專訪,指出微軟資料中心規劃亦採系統級方法(Systems approach),跟台灣供應鏈緊密合作,並披露微軟正全面轉向液冷而策略性使用Neo Cloud現成算力,強調客戶需求遠大於供給沒有泡沫化疑慮。

記憶體吃緊 顯卡又要漲價 華碩、技嘉上調在陸售價

華碩與技嘉等顯示卡廠計畫在9月再次調漲中國大陸市場的產品價格,最高達人民幣500元(約新台幣2,300元)。漲價效應也將使華碩、技嘉、微星、麗臺與承啟等板卡廠的業績上揚。

台積電3奈米衝鋒 產值躍升Q3突破4,000億元創新高

AI與高速運算(HPC)多元應用需求飆升,台積電應廣大的客戶群要求,3奈米以下先進製程加開更多產能。法人看好,台積電下半年3奈米貢獻可望首度超越5奈米,估計第3季單季產值首度超過4,000億元,創新高,占營收比重逾三成,更可挹注毛利率表現。

CSP龍頭亞馬遜搶AI機櫃 世芯、緯穎、鴻海等協力廠出貨動能強勁

供應鏈傳出,北美雲端服務供應商(CSP)龍頭亞馬遜旗下雲端服務(AWS)近期擴大AI伺服器機櫃拉貨力道,包括台積電、世芯-KY、緯穎、鴻海等主要協力廠全面動起來,出貨動能強勁,本季營運火熱。

亞馬遜搶AI機櫃 台達電、jpp同步沾光

亞馬遜雲端服務(AWS)近期擴大AI伺服器機櫃拉貨力道,台達電、jpp-KY等關鍵零組件供應商同步沾光,出貨喊衝。台達電、jpp積極擴產以滿足AWS龐大的AI基礎建設需求。

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。