Google最強AI晶片 來了

Google 6日在官方部落格宣布，功能最強、能源效率最高的第七代TPU（Tensor Processing Unit，張量處理器）「Ironwood」未來幾周內正式發布，是Google首款為AI推論打造的史上最強晶片，在訓練和推理工作負載方面較前一代提升四倍以上。

Google推出三款全新的客製化晶片產品，包括AI晶片Ironwood，通用運算的全新Axion Arm架構處理器為基礎的虛擬機器N4A預覽版，比同類目前x86架構虛擬機器效能高出兩倍；以及首款裸機實例C4A Metal將推出預覽版。

Google今年4月在Google Cloud Next 25大會發表TPU「Ironwood」，驅動思考型（thinking）和推論型（inferential）模型。Google強調，在單一晶片叢集（POD）中擴展至9,216個晶片，透過突破性的晶片間互連（ICI）網路以9.6 Tb/s速度串連，每一個FP8 ExaFLOPS 效能比競爭對手高出118倍。

除了Google的Gemini、Veo和Imagen在TPU上訓練，其轉投資的Anthropic更將使用多達100萬個TPU運行大模型Claude。

Ironwood效能功耗較前代產品Trillium提升二倍，採液冷解決方案，增加高頻寬記憶體（HBM）容量，每顆晶片提供192GB容量，是Trillium的六倍，可處理更大型的模型和資料集運算，減少頻繁的資料傳輸需求。