生成式AI應用加速 記憶體成技術突破關鍵：HBM競爭動態備受關注

※如欲轉載本文，請與北美智權報聯絡

李淑蓮╱北美智權報　編輯部

隨著生成式人工智慧（GENERATIVE AI, GEN AI）應用場景的持續擴大，對高速、高頻寬、低延遲記憶體的需求也愈加迫切。無論是模型訓練還是推理，生成式 AI 都需即時處理海量數據，因此記憶體性能已成為支撐這些應用的關鍵基石。針對不同的記憶體技術於生成式 AI的應用，全球市調研究公司COUNTERPOINT RESEARCH指出，高頻寬記憶體（HIGH BANDWIDTH MEMORY，HBM）為目前市場上最受關注的解決方案之一，各大記憶體大廠也都正在積極布局。

生成式AI模型（如大型語言模型LLM、大型視覺模型LVM等）對記憶體的需求涵蓋訓練與推理兩大應用場景。訓練過程中需要高頻寬記憶體以處理龐大數據，而推理過程則需要低延遲記憶體以支撐即時決策。Counterpoint Research指出， DRAM是目前AI系統中最廣泛應用的記憶體類型，在成本與性能之間能達到平衡。然而，隨著AI模型日益複雜，不少廠商都會採用先進封裝技術 （如3D-IC和CoWoS）來提升速度和頻寬，並加強記憶體與處理器的整合，以滿足生成式AI的高效能需求。

事實上，傳統DRAM在頻寬與延遲方面有所限制，因此逐漸難以應對生成式 AI 的需求；另一方面，高頻寬記憶體（HBM）透過矽穿孔技術（Through-Silicon Via， TSV）堆疊DRAM的設計，能大幅提升運算效率。然而，雖然HBM憑藉其層疊設計提供遠高於傳統 DRAM的頻寬，但高成本仍是一項挑戰。Counterpoint Research表示，未來透過縮小DRAM製程節點並增加層疊數量，HBM的容量將進一步提升，以滿足生成式AI和深度學習對高效能計算的需求。

生成式AI帶動需求，HBM競爭激烈

隨著生成式AI和高效能運算（HPC）需求的爆發性增長，記憶體技術正迅速成為突破瓶頸的關鍵領域。HBM作為目前市場上最受關注的解決方案之一，全球科技巨頭紛紛展示技術實力和創新能力。從產品性能提升到供應鏈整合，HBM市場的競爭格局正在迅速演變，各大記憶體廠商正積極布局以迎接未來的挑戰與機遇。Counterpoint Research整理分析如下：

● 三星的挑戰與策略調整：作為全球記憶體產業的領導者之一，三星在HBM領域的發展卻面臨困境。其挑戰主要源於對先進封裝技術的保守態度以及產品設計過於強調成本，而忽略功耗與熱量管理這些高效能運算應用的核心需求。儘管如此，三星已計畫於2025年第1季推出修訂版的HBM3e技術，並著重於基礎介面晶片（base die）邏輯電路的優化，以改善其產品在功耗與散熱方面的性能。三星的策略調整將成為2025年HBM市場競爭的重要觀察點。

● SK海力士的技術與市場領先地位：SK海力士以其技術創新和靈活的企業文化在HBM市場中處於領先地位。為滿足NVIDIA等客戶對功耗和散熱的高標準要求，SK海力士採用多層次技術改進，包括記憶體單元設計優化、堆疊階段的後端管理，以及在基礎介面晶片中新增邏輯電路（IVC）。這些創新使其產品具備更高的穩定性與效能，進一步鞏固了其市場領導地位。

● 美光的積極追趕：美光選擇了一條直接跳躍式的技術發展路線，計畫於2025年推出HBM3e技術。美光採用了來自SK驗證的成熟設備與製程，並透過在基礎介面晶片中加入邏輯電路，優化內部電壓以滿足客戶需求。美光的策略展現在競爭中進一步縮小與主要對手差距的決心。

● 中國廠商的崛起與挑戰：在HBM市場中，中國廠商的崛起也不容忽視。中國計畫於2025年實現HBM3的本地化生產，涵蓋GPU製造、HBM DRAM單元、基礎介面晶片與OSAT。然而，隨著美國加強對先進設備的出口管制，中國的HBM產業鏈發展可能面臨技術與供應鏈上的挑戰，特別是在2026年後，能否持續提升產品競爭力將成為關鍵。

HBM市場的未來展望與合作價值

Counterpoint Research分析師認為，未來，HBM的競爭力不能僅僅依賴單一廠商的技術實力，更需要生態系統的深度協作。例如，SK海力士與TSMC在基礎介面晶片上的合作，凸顯標準化與長期合作對提升產品性能的關鍵作用。

此外，隨著生成式AI技術的進一步普及，對記憶體產品的需求將從高階市場逐漸滲透至更多領域。這不僅為HBM市場帶來增長動力，也為廠商提供新的創新機遇。在這場競賽中，技術突破、成本優化和供應鏈整合將成為贏得市場的三大核心要素。

延伸閱讀&電子報訂閱連結：

【詳細內容請見《北美智權報》372期；歡迎訂閱《北美智權報》電子報】