輝達:全球AI工廠會達百座
輝達(NVIDIA)加速運算事業部門主管巴克表示,推理模型的晶片使用量增加,需求已「大爆發」,主權AI的需求與全球AI工廠的投資都增加,目前全球正在打造100座AI工廠,包括台灣的大幅投資,而面臨的挑戰包括供電限制和企業採用AI的速度。
DeepSeek、OpenAI、Anthropic及xAI等業者最新AI模型,都具備推理功能,能針對用戶搜尋詞進行多次思維運算(thought computation),更全面反思,以提供更高品質回應。輝達主管已表示,推理消耗的運算資源比之前的AI模型多出100倍,驅動更多AI晶片需求。
巴克表示,各國都加強投資AI應用於各自獨特的產業和數據,例如台灣正在打造一座他認為會使用1萬組Blackwell繪圖處理器(GPU)的AI工廠,「這是為台灣產業打造,由台灣擁有」,日本也在運用自有數據建造AI工廠,目前全球正在打造並組裝100座AI工廠。
他也說,輝達可能會在下周巴黎GTC開發者大會、以及在柏林舉行的國際超級運算大會上,提供更多關於AI工廠和主權AI等活動訊息。他也暗示,未來成長挑戰可能包括供電議題與企業採用AI的速度。
輝達與台灣供應鏈密切合作,全球AI工廠和主權AI持續投資,台灣的鴻海、廣達、緯創、緯穎、英業達等AI伺服器代工鏈出貨喊衝,GB200伺服器機櫃將持續放量,GB300機櫃也蓄勢待發。廣達指出,第2季Blackwell平台的GB200機櫃加入出貨行列,GB300正在測試與客戶驗證階段,預計9月出貨。
延伸閱讀
贊助廣告
商品推薦
udn討論區
共 0 則留言
規範
- 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
- 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
- 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
- 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
FB留言