輝達新AI晶片高算力低能耗 集邦：明年成主流

輝達（NVIDIA）在GTC大會推出Blackwell架構的AI晶片B100、B200及GB200等，不僅效能大幅提升，成本與能耗同步優化，市調機構集邦科技預期，B200等產品有望在2024年底陸續上市，並於2025年成為市場主流。

集邦科技指出，Blackwell AI伺服器架構平台是今年GTC大會亮點產品，以第2代Transformer引擎與第5代NVLink技術，可支援高達10兆參數模型的AI訓練與即時大型語言（LLM）推理。

據輝達表示，Blackwell架構繪圖處理器（GPU）配備2080億個電晶體，採用台積電客製化4奈米製程製造，透過每秒10TB的晶片到晶片互連連接成單個GPU，利用4位浮點AI推論能力支援加倍地運算。

輝達指出，最新版本的NVLink提供每個GPU每秒8TB的雙向吞吐量，確保在複雜的大型語言模型中，實現576個GPU間無縫高速溝通。

輝達表示，GB200 NVL72系統串聯72個BlackwellGPU和36個Grace中央處理器（CPU），相較於H100Tensor Core GPU，GB200 NVL72可提供30倍的大型語言模型推論工作負載效能，並大幅降低成本和能源消耗。

集邦科技表示，輝達產品服務涉及面向多元，但發展核心仍以醫療、製造兩者為重。輝達針對醫療推出20餘項醫療專用生成式AI微服務，也更新BioNeMo模型以強化電腦輔助藥物開發。

在製造方面，輝達則是推出適用於人形機器人的GR00T專案基礎模型，以及透過Isaac平台將生成式AI導入製造和物流應用。

集邦科技指出，輝達產品應用聚焦醫療和製造，主要因為智慧化基礎高、轉型誘因強烈，數據雖然多且雜，但密閉空間相對好蒐集，加上模擬技術越趨成熟。集邦預期，隨著自駕車、電動車市場逐漸成熟，往智慧載體演化的汽車產業有望成為輝達下階段發展重點。