快訊

屍塊再現!高雄連續殺人分屍案 運河入港口發現8肚皮內臟組織

寒流壟罩全台冷到爆 粉專:今天至「這時段」是最冷時刻

驚!台北預售屋均價突破4千萬 網友玩笑話成真

生成式AI應用加速 記憶體成技術突破關鍵:HBM競爭動態備受關注

圖片來源 : shutterstock、達志影像
圖片來源 : shutterstock、達志影像

※如欲轉載本文,請與北美智權報聯絡

李淑蓮╱北美智權報 編輯部

隨著生成式人工智慧(GENERATIVE AI, GEN AI)應用場景的持續擴大,對高速、高頻寬、低延遲記憶體的需求也愈加迫切。無論是模型訓練還是推理,生成式 AI 都需即時處理海量數據,因此記憶體性能已成為支撐這些應用的關鍵基石。針對不同的記憶體技術於生成式 AI的應用,全球市調研究公司COUNTERPOINT RESEARCH指出,高頻寬記憶體(HIGH BANDWIDTH MEMORY,HBM)為目前市場上最受關注的解決方案之一,各大記憶體大廠也都正在積極布局。

生成式AI模型(如大型語言模型LLM、大型視覺模型LVM等)對記憶體的需求涵蓋訓練與推理兩大應用場景。訓練過程中需要高頻寬記憶體以處理龐大數據,而推理過程則需要低延遲記憶體以支撐即時決策。Counterpoint Research指出, DRAM是目前AI系統中最廣泛應用的記憶體類型,在成本與性能之間能達到平衡。然而,隨著AI模型日益複雜,不少廠商都會採用先進封裝技術 (如3D-IC和CoWoS)來提升速度和頻寬,並加強記憶體與處理器的整合,以滿足生成式AI的高效能需求。

事實上,傳統DRAM在頻寬與延遲方面有所限制,因此逐漸難以應對生成式 AI 的需求;另一方面,高頻寬記憶體(HBM)透過矽穿孔技術(Through-Silicon Via, TSV)堆疊DRAM的設計,能大幅提升運算效率。然而,雖然HBM憑藉其層疊設計提供遠高於傳統 DRAM的頻寬,但高成本仍是一項挑戰。Counterpoint Research表示,未來透過縮小DRAM製程節點並增加層疊數量,HBM的容量將進一步提升,以滿足生成式AI和深度學習對高效能計算的需求。

生成式AI帶動需求,HBM競爭激烈

隨著生成式AI和高效能運算(HPC)需求的爆發性增長,記憶體技術正迅速成為突破瓶頸的關鍵領域。HBM作為目前市場上最受關注的解決方案之一,全球科技巨頭紛紛展示技術實力和創新能力。從產品性能提升到供應鏈整合,HBM市場的競爭格局正在迅速演變,各大記憶體廠商正積極布局以迎接未來的挑戰與機遇。Counterpoint Research整理分析如下:

三星的挑戰與策略調整:作為全球記憶體產業的領導者之一,三星在HBM領域的發展卻面臨困境。其挑戰主要源於對先進封裝技術的保守態度以及產品設計過於強調成本,而忽略功耗與熱量管理這些高效能運算應用的核心需求。儘管如此,三星已計畫於2025年第1季推出修訂版的HBM3e技術,並著重於基礎介面晶片(base die)邏輯電路的優化,以改善其產品在功耗與散熱方面的性能。三星的策略調整將成為2025年HBM市場競爭的重要觀察點。

SK海力士的技術與市場領先地位:SK海力士以其技術創新和靈活的企業文化在HBM市場中處於領先地位。為滿足NVIDIA等客戶對功耗和散熱的高標準要求,SK海力士採用多層次技術改進,包括記憶體單元設計優化、堆疊階段的後端管理,以及在基礎介面晶片中新增邏輯電路(IVC)。這些創新使其產品具備更高的穩定性與效能,進一步鞏固了其市場領導地位。

美光的積極追趕:美光選擇了一條直接跳躍式的技術發展路線,計畫於2025年推出HBM3e技術。美光採用了來自SK驗證的成熟設備與製程,並透過在基礎介面晶片中加入邏輯電路,優化內部電壓以滿足客戶需求。美光的策略展現在競爭中進一步縮小與主要對手差距的決心。

中國廠商的崛起與挑戰:在HBM市場中,中國廠商的崛起也不容忽視。中國計畫於2025年實現HBM3的本地化生產,涵蓋GPU製造、HBM DRAM單元、基礎介面晶片與OSAT。然而,隨著美國加強對先進設備的出口管制,中國的HBM產業鏈發展可能面臨技術與供應鏈上的挑戰,特別是在2026年後,能否持續提升產品競爭力將成為關鍵。

HBM市場的未來展望與合作價值

Counterpoint Research分析師認為,未來,HBM的競爭力不能僅僅依賴單一廠商的技術實力,更需要生態系統的深度協作。例如,SK海力士與TSMC在基礎介面晶片上的合作,凸顯標準化與長期合作對提升產品性能的關鍵作用。

此外,隨著生成式AI技術的進一步普及,對記憶體產品的需求將從高階市場逐漸滲透至更多領域。這不僅為HBM市場帶來增長動力,也為廠商提供新的創新機遇。在這場競賽中,技術突破、成本優化和供應鏈整合將成為贏得市場的三大核心要素。

作者:李淑蓮
現任:北美智權報總編輯
學歷:文化大學新聞研究所
經歷:北美智權報主編

半導體科技雜誌(SST-Taiwan)總編輯

CompuTrade International總編輯

日本電波新聞 (Dempa Shinbun) 駐海外記者

日經亞洲電子雜誌 (台灣版) 編輯

延伸閱讀&電子報訂閱連結:

【詳細內容請見《北美智權報》372期;歡迎訂閱《北美智權報》電子報

延伸閱讀

三星NAND西安廠減產

南韓對陸晶片出口下滑

三星、SK海力士 Q4獲利看淡

華為Mate 70採用SK海力士記憶體晶片 而非大陸製

相關新聞

北美智權集團30周年回顧:與台灣半導體與資通訊產業共同成長的里程碑

30年的歲月流轉,北美智權集團從1995年創立至今,始終屹立於智慧財產權服務領域的前端,為台灣乃至全球的企業創新提供強而有力的保障。身為一家根植於台灣的專業智權服務公司,北美智權在創辦人許鍾光所長的領導下,不僅見證了智慧財產權的崛起與制度的日趨完善,更全程參與並助力台灣半導體與資通訊產業的快速發展與國際化。這30年來,北美智權與台灣產業緊密連結,共同見證了全球科技與經濟的飛速變革。

從北美智權報轉型看媒體的演變:數位時代智權新聞的全新定位

媒體產業在數位時代經歷了翻天覆地的變革,而這一浪潮不僅影響了大眾媒體,也對專業領域的內容生產與傳播方式帶來深遠影響。《北美智權報》於18年前成立之初,只是一份為公司客戶提供專利智權法規資訊的電子報;隨著歲月流轉,已出刊了370多期,從月刊電子報到雙周刊,再到如今的線上新聞網站模式,北美智權報的轉型歷程,是數位媒體時代專業資訊平台持續進化的一個縮影。本文將以《北美智權報》的轉型為例,探討媒體如何適應新時代的挑戰,並在專業領域中重新定位其角色與價值。

2024年美國專利法規相關事件回顧

部分美國專利業界人士預測,川普2.0有可能鬆綁AI監管、不動用BAYH-DOYLE法案介入權、專利政策將再次向專利所有權人一側傾斜。本文僅先回顧過去一年 (2024) 美國專利法規部分已發生的事件。

產品規格書與使用手冊可以替代實體物作為侵權鑑定基礎嗎?

水面下大型機具產品專利侵權鑑定分析,可以僅以產品規格書以及使用手冊替代實體物。之所以如此,係因架設於水面下之大型機具,依實際狀況難以實物鑑定而予以放寬。

從專利視角看礦物資源「鎵」與「鍺」出口限制之因應

出口管制長期以來,是美國用來管理與中國複雜關係的手段,而關鍵礦物資源的出口限制也是近來中國反制美國的武器之一。在關鍵礦物中,中國是「鎵」和「鍺」專利受理量最多且成長最強的國家,本篇文章將從專利分析視角,探討如何因應中國礦物資源的出口限制。

2025智慧終端裝置發展趨勢:人形機器人走向智慧商用的關鍵時刻!

2025年國際消費電子展(CES 2025)延續CES 2024年「AI無所不在」的主題,相較於2024年的創新發想,CES 2025強調AI將更「深入」(DIVE IN)人類生活、以人為出發,以務實角度增強AI體驗,在終端產品中搭載更為符合實際需求的AI應用。資策會產業情報研究所(MIC)指出,CES 2025焦點包括AI 智慧終端、人形機器人以及智慧生活,AI技術透過各種終端型態融入日常生活,更加全面性的實現創新應用。

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。