快訊

內閣「新賴系」成形 黨內短期尊賴但廝殺亦不遠矣

三級輔導暴增亂象多 有班導不轉介孩子、專輔師挫敗流淚

一本讀懂經濟學!《資本與意識形態》200年家族致富故事

雲端AI伺服器需求強勁 促 NVIDIA 第2季資料中心占比突破76%

據輝達(NVIDIA)最新財報數據顯示,其資料中心業務達103.2億美元,季成長率141%,年成長率更高達171%,且NVIDIA看好後續成長力道。TrendForce認為,主要NVIDIA高營收成長動力來自於其資料中心AI伺服器相關解決方案業務,主力產品包含AI加速晶片GPU、AI伺服器參考架構HGX等,作為大型資料中心的AI 基礎設施。

同時,TrendForce預期,NVIDIA將進一步整合其軟硬體資源,並更細緻地將其高階及中低階GPU AI加速晶片,與各ODM或OEM綁定合作軟硬體系統認證模式。除加速在CSP雲端AI伺服器基礎設施布建外,也和VMware等合作Private AI Foundation等方案,將其觸角延伸至邊緣Enterprises AI伺服器市場,以支撐其今、明兩年資料中心業務穩定成長。

Cloud AI強勁需求驅動 NVIDIA資料中心業務占比超越76%

NVIDIA近年積極布局資料中心業務,去年第4季當時資料中心業務營收約占42.7%,尚落後於Gaming業務營收約二個百分點,於今年首季後正式超越Gaming業務營收,占比逾45%。自2023年起,各大CSP大舉投入ChatBOT及公有雲各種AI服務基礎設施後,NVIDIA更直接受惠,第2季資料中心業務營收占比一舉突破76%。

NVIDIA將分攻Cloud及Edge Data Center AI應用市場

TrendForce觀察,預估NVIDIA在高階GPU產品銷售策略上,將於2023下半年後有所轉變,原高階AI伺服器主打以搭載A100及H100為主,在市場需求大好的預期下,將改主攻售價更高的H100,才能有效刺激資料中心相關業務營收向上。

中階GPU方面,以近期主推的L40s為主打方案,其中有幾個主要策略意義。首先,高階H100系列受限於目前CoWoS、HBM等產能有限,而L40s則主要搭配GDDR記憶體,因不須CoWoS封裝,可加速導入中階AI伺服器市場,補足原A100 PCIe介面對Enterprises客戶需求缺口。

其次,L40s也同時主攻如Enterprises客戶,不需使用如ChatGPT數量龐大的參數模型,而是主攻較小型化各專業領域的AI Training應用,亦或針對邊緣AI Inference或影像分析等使用。

最後,針對中國客戶可能因地緣政治問題,導致高階GPU H系列供應受阻風險,則可用L40s補足。低階GPU系列,則以L4或T4系列為主打,主打邊緣AI伺服器即時AI推論或影像分析使用,並更強調較低價,其高C/P值的產品特性。

HGX及MGX等AI伺服器參考架構將是NVIDIA下半年後主攻AI方案的利器

TrendForce觀察,近期NVIDIA除針對其核心AI晶片GPU進行更細緻化的產品定位外,也積極主推其HGX及MGX等方案,而這並不是伺服器產業鏈首見作法,但NVIDIA有機會在此策略上穩固領先利基。

主要是NVIDIA藉由高度整合其GPU加上CUDA建立完整AI生態系下處絕對領先位置,故對既有的伺服器供應鏈有較強議價能力,藉此要求ODM如Inventec、Quanta、FII、Wistron、Wiwynn等,或品牌業者如Dell、Supermicro、Gigabyte等,依據NVIDIA的HGX或MGX參考設計,且需經過NVIDIA於該AI 伺服器參考架構的軟硬體認證過程。NVIDIA藉此可整合兜售其Arm CPU Grace及NPU或AI Cloud Foundation等軟硬體解決方案。

值得注意的是,對ODM或OEM而言,由於預期NVIDIA於2023~2024年在雲端服務業者的AI伺服器主力市場將大有斬獲,有利於拉抬整體AI伺服器出貨量及營收成長,但隨著NVIDIA策略性導入HGX或MGX等標準化AI伺服器架構,也使未來ODM等業者將因AI server核心產品架構較趨於同質化而使彼此爭取CSPs等訂單之競爭態勢更趨於白熱化。

此外,觀察大型CSPs如Google、AWS未來有擴大導入自研ASIC AI加速晶片趨勢,亦可能侵蝕部分NVIDIA GPU市場,估此亦為NVIDIA持續推展不同定位GPU產品及整體方案,欲進一步將AI業務積極拓展至Tier-2資料中心如CoreWeave等及邊緣Enterprises客戶的主因之一。

AI NVIDIA 伺服器

延伸閱讀

Nvidia資料中心業務季增141% 業務占比首次突破76%

Nvidia出色財報與樂觀財測 帶動亞洲半導體股齊飆

NVIDIA財報帶動台股勁揚 收盤漲193點收16,770點 成交量破4400億

謝金河:迎接Nvidia的新震撼

相關新聞

鴻海首部國產電動車上陣 展示完整電動車生態系

「2024 臺北國際車用電子展」17日於南港展覽館1館舉行。鴻海(2317)作為主要參展廠商,圍繞集團智慧電動車平台,進...

台積電下屆董事候選人名單出爐!林全與二外籍女獨董入列

台積電今日宣布十位董事被提名人,包括三位現任董事魏哲家、曾繁城、龔明鑫,四位現任獨立董事彼得‧邦菲爵士、麥克‧史賓林特、...

晶圓代工廠業者世界先進:電價若調漲15% 今年毛利率影響0.5%到1%

專業8吋晶圓代工廠世界先進董事長方略今日表示,政府決定宣布調漲電價,世界內部估算,若電價漲幅15%,世界因是用電大戶,一...

台積掀雲嘉搶水大戰 嘉義設廠向雲林借水

台積電將在嘉義科學園區設置兩座CoWos先進製程封裝廠,第一廠預計二○二八年量產,屆時每天需三點三萬公噸用水,水利署計畫...

台積電是黑船2.0翻轉日本失落30年?陳冲:勿讓一個人的武林孤芳自賞

台積電(2330)日本廠在熊本風光開幕,「經濟學人」以日本廠較美國廠擁有 more luck(更多的幸運)為題,不足一頁...

總裁展現信心 魏哲家:與台積競爭「門都沒有」

台積電總裁魏哲家昨(29)日指出,台積電不與客戶競爭、贏得客戶信任,或許對手會追上製程與技術,但台積電純晶圓代工模式獲得...

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。