輝達形容AI需求「大爆發」 透露全球正在打造100座AI工廠

美國人工智慧（AI）晶片霸主輝達（Nvidia）主管表示，由於推理模型的晶片使用量增加，需求已「大爆發」，並且點出主權AI的需求與全球AI工廠的投資都日漸增加，目前全球正在打造100座AI工廠，包括台灣的大幅投資，挑戰則包括供電限制和企業採用AI的速度。

輝達加速運算事業部門主管巴克（Ian Buck）4日參加美銀證券全球科技研討會時表示，由於推理模型的使用量增加，「推論需求已大爆發」，推理「增添了如此之多的價值」。推論是AI模型生成回答的過程。

DeepSeek、OpenAI、Anthropic及xAI等業者的最新AI模型，都具備推理功能，能針對用戶搜尋詞進行多次思維運算（thought computation），更全面反思，以提供更高品質的回應。輝達主管已表示，推理消耗的運算資源比之前的AI模型多出100倍，驅動更多AI晶片的需求。

巴克在接受美銀證券科技分析師艾爾亞（Vivek Arya）訪問時，強調打造平台已孕育AI推論市場的創新，焦點仍是可拓展的AI工廠和訓練叢集，隨著AI模型效能持續提升，有1,000億個參數的模型已是標準，目前正在使用上兆參數的模型，預料將會更常見。

他說，輝達的策略聚焦於為推論打造的AI工廠、以及大規模的訓練叢集，該公司的軟體套現計畫包括NeMoTron模型和Lepton等資料中心軟體。

巴克被問到AI工廠的商機時表示，各國都加強投資AI，以應用於各自獨特的產業和數據，例如台灣正在打造一座他認為會使用1萬組Blackwell繪圖處理器（GPU）的AI工廠，「這是為台灣產業打造，由台灣擁有」，日本也在運用自有數據建造AI工廠，目前全球正在打造並組裝100座AI工廠。

他也說，輝達可能會在下周的巴黎GTC開發者大會（11-12日）、以及在柏林舉行的國際超級運算大會（ISC，10-13日）上，提供更多關於AI工廠和主權AI等活動的訊息。他也暗示，未來成長的挑戰可能包括供電議題與企業採用AI的速度。