快訊

國安會諮詢委員生變 總統府:姜皇池婉謝邀請

恐再掀院會表決大戰? 不滿郭國文搶周萬來文件 藍提案送紀律委員會

驚慌逃竄畫面曝!醫專生持三刀中捷砍人 列車進站後車上乘客急逃命

需求看俏 預估2023年全球 AI 伺服器出貨量年增四成

AI伺服器及AI晶片需求同步看漲,TrendForce預估2023年AI伺服器(包含搭載GPU、FPGA、ASIC等)出貨量近120萬台,年增38.4%,占整體伺服器出貨量近9%,至2026年將占15%,同步上修2022~2026年AI伺服器出貨量年複合成長率至22%。而AI晶片2023年出貨量將成長46%。

TrendForce表示,NVIDIA GPU為AI伺服器市場搭載主流,市占率約60~70%,其次為雲端業者自主研發的AISC晶片,市占率逾20%。觀察NVIDIA市占率高的主要原因有三,其一,目前不論美系或中系雲端服務業者(CSP),除了採購原有的NVIDIA的A100與A800外,下半年需求也將陸續導入H100與H800,尤其新機種H100與H800在平均銷售單價約為A100與A800的2~2.5倍,加上NVIDIA同時積極銷售自家相關整機解決方案。

其二,高階GPU A100及H100的高獲利模式也是關鍵,由於旗下產品在AI伺服器市場已擁有主導權的優勢,據TrendForce研究,H100本身價差也依據買方採購規模,會產生近5,000美元的差異。

其三,下半年ChatBOT及AI運算風潮將持續滲透至各種專業領域(如雲端/電商服務、智慧製造、金融保險、智慧醫療及智慧駕駛輔助等)的開發市場,同步帶動每台搭配4~8張GPU的雲端AI,以及每台搭載2~4張GPU的邊緣AI伺服器應用需求漸增,預估今年搭載A100及H100的AI伺服器出貨量年增率逾五成。

此外,從高階GPU搭載的HBM來看,NVIDIA高階GPU H100、A100主採HBM2e、HBM3。以今年H100 GPU來說,搭載HBM3技術規格,其中傳輸速度也較HBM2e快,可提升整體AI伺服器系統運算效能。

隨著高階GPU如NVIDIA的A100、H100;AMD的MI200、MI300,以及Google自研的TPU等需求皆逐步提升下,TrendForce預估2023年HBM需求量將年增58%,2024年有望再成長約30%。

GPU NVIDIA

延伸閱讀

AI 需求持續看漲 預估今年全球 AI 伺服器出貨量年增近4成

Computex 2023/NVIDIA黃仁勳演講 人潮擠爆現場

黃仁勳發表一連串AI新品 從超級晶片、廣告到遊戲全包

宜鼎集團攜手NVIDIA 擴大AI生態系部署 強化智慧工廠AOI檢測效能

相關新聞

台積電先進封裝產能被訂光 輝達、超微一路包到明年

AI應用百花齊放,兩大AI巨頭輝達(NVIDIA)、超微(AMD)全力衝刺高效能運算(HPC)市場,傳出包下台積電今、明...

受惠全球雲端科技大廠加碼投資 台積電AI營收上衝百億美元

台積電AI業績喊衝。法人看好,受惠全球雲端科技大廠加碼AI投資順勢帶動客戶瘋狂下單,台積電今年AI營收將首度突破百億美元...

台積電首度發表2奈米強化版A16新型晶片製造技術

台積電在美國當地時間24日舉辦2024年北美技術論壇,會中揭示其最新的製程技術、先進封裝技術、以及三維積體電路(3D I...

魏哲家出席北美技術論壇 台積電2026年完成矽光子整合

台積電於美國時間24日舉辦北美技術論壇,發表A16技術,預計2026年量產,屆時將邁入埃米世代。2025年完成緊湊型通用...

鴻海首部國產電動車上陣 展示完整電動車生態系

「2024 臺北國際車用電子展」17日於南港展覽館1館舉行。鴻海(2317)作為主要參展廠商,圍繞集團智慧電動車平台,進...

台積電下屆董事候選人名單出爐!林全與二外籍女獨董入列

台積電今日宣布十位董事被提名人,包括三位現任董事魏哲家、曾繁城、龔明鑫,四位現任獨立董事彼得‧邦菲爵士、麥克‧史賓林特、...

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。