輝達推出新一代AI工廠平台Blackwell Ultra 為AI推理時代奠定基礎

輝達（NVIDIA）今日發表新一代的NVIDIA Blackwell 人工智慧（AI）工廠平台 NVIDIA Blackwell Ultra，為AI推理時代奠定基礎。合作夥伴預計自今年下半年起推出搭載Blackwell Ultra的產品。

NVIDIA創辦人暨執行長黃仁勳表示：「AI發展突飛猛進，推理和代理型AI需要比當前高出數個量級的運算效能。Blackwell Ultra就是為了這個時刻所設計。這個多功能的單一平台，可輕鬆高效執行預訓練、後期訓練與推理AI推論。」

NVIDIA宣布，包括Aivres、華擎科技、華碩、鴻海科技集團、技嘉科技、英業達、和碩聯合科技、雲達科技、緯創與緯穎，思科、戴爾科技集團、慧與科技、聯想集團與美超微預計也將推出各樣搭載 Blackwell Ultra 產品的伺服器。

雲端服務供應商 Amazon Web Services、Google Cloud、Microsoft Azure 與 Oracle Cloud Infrastructure，以及 GPU 雲端供應商 CoreWeave、Crusoe、Lambda、Nebius、Nscale、Yotta 與 YTL，將率先提供 Blackwell Ultra 驅動的執行個體。

NVIDIA Blackwell Ultra 是NVIDIA強化訓練與測試階段的推論擴展能力的全新代表作產品。NVIDIA這項技術在推論過程投入更多的運算資源，提高準確度，讓世界各地的組織都能加速應用AI推理、代理型AI，以及實體AI。

Blackwell Ultra 以一年前推出的劃時代Blackwell 架構為建置基礎，包含 NVIDIA GB300 NVL72 機架規模解決方案與 NVIDIA HGX™ B300 NVL16 系統。GB300 NVL72 的 AI 效能比 NVIDIA GB200 NVL72 提升 1.5 倍，並且相比基於 NVIDIA Hopper™ 的 AI 工廠，將 Blackwell 在AI工廠市場的營收機會提升50倍。

NVIDIA GB300 NVL72 採用機架規模設計，連接72顆 Blackwell Ultra GPU與36顆Arm Neoverse 架構 NVIDIA Grace™ CPU，是專為測試階段擴展打造的單一大型 GPU。有了 NVIDIA GB300 NVL72，AI模型便可利用平台更強大的運算能力，探索問題的各種解決方案，並將複雜的請求分解為多個步驟，締造更高品質的回應內容。

NVIDIA DGX Cloud 預計也會提供 GB300 NVL72。這個位於主要雲端上的端對端全託管 AI 平台，利用軟體、服務和 AI 專業，因應不斷演變的工作負載將效能最佳化。採用 DGX GB300 系統的 NVIDIA DGX SuperPOD 使用 GB300 NVL72機架設計，提供客戶一站式AI工廠。

相較於Hopper 世代，NVIDIA HGX B300 NVL16 在大型語言模型上的推論速度提升11倍、運算能力提升7倍、記憶體容量增加4倍，可為AI推理這類最複雜的工作負載，提供劃時代的效能。

此外，Blackwell Ultra 平台非常適合以下應用，包括：代理型AI，運用精密複雜的推理與迭代規畫，自主解決複雜的多步驟問題。AI代理系統不只是聽從指令行事，還可推理、規劃並採取行動，達成特定目標：實體AI，讓公司能夠即時生成合成的逼真影片，用於大規模訓練機器人和自駕車等應用情境；先進的橫向擴充網路是AI基礎架構的關鍵元件，可提供最佳效能，並減少延遲和抖動程度。

NVIDIA表示，Blackwell Ultra 系統無縫整合 NVIDIA Spectrum-X Ethernet 與 NVIDIA Quantum-X800 InfiniBand 平台，透過 NVIDIA ConnectX-8 SuperNIC，為系統的每個 GPU 提供 800 Gb/s 的資料傳輸量。這項整合提供了頂尖的遠端直接記憶體存取能力，讓AI工廠和雲端資料中心能夠順利處理AI推理模型，避免瓶頸問題。

此外，Blackwell Ultra 還採用 NVIDIA BlueField-3 DPU，可實現多租戶網路、GPU 運算彈性、加速資料存取，以及即時網路安全威脅偵測。