快訊

董座借款6千萬不追討成獲利 彰化大慶商工無奈:稅繳不出成負債

國道一號豐原段傍晚重大車禍 2女受傷、2男無呼吸心跳

2025年 AI SSD 需求占 NAND Flash 比重將近一成

根據TrendForce最新enterprise SSD研究報告,由於AI需求大幅升溫,最近兩季AI server相關客戶向供應商進一步要求加單enterprise SSD。上游供應商為了滿足SSD在AI應用上的供給,加速製程升級,開始規劃2YY產品,預期2025年量產。

TrendForce表示,AI server客戶對供應商加單的情況,導致enterprise SSD合約價於2023年第4季至2024年第3季間的累積漲幅超過80%。

SSD在AI發展扮演重要角色,除了在AI模型訓練過程中,SSD主要負責儲存模型參數,包含不斷演變的權重和偏差,另一項重要應用是創建檢查點(check point),以定期保存AI模型訓練進度,即使訓練中斷也能從特定點恢復。由於上述功能都相當依賴高速傳輸以及寫入耐用度,因此客戶主要選擇使用4TB/8TB TLC SSD產品,以滿足嚴苛的訓練過程需求。

TrendForce指出,SSD應用於AI inference server,可在推理過程中協助調整、優化AI模型,尤其SSD可以即時更新數據,以便微調推論模型成果。AI inference主要提供檢索增強生成(RAG, Retrieval-Augmented Generation)和大型語言模型(LLM)服務,而SSD可以儲存RAG和LLM參考的相關文檔和知識庫,以生成含有更豐富資訊的回應。此外,因為有更多生成資訊是以影片或相片顯示,其資料的存儲量也跟著增加,因此,TLC/QLC 16TB以上等大容量SSD便成為AI inference主要採用的產品。

2024年AI server SSD需求市場除了16TB以上產品需求自第2季大幅上升,隨著NVIDIA H100、H20和H200等系列產品到貨,相關客戶開始進一步加大TLC 4、8TB enterprise SSD訂單動能。

TrendForce預估,今年AI相關SSD採購容量將超過45EB,未來幾年AI server可望推動SSD需求年增率平均超過60%,而AI SSD需求在全部NAND Flash的占比有機會自2024年的5%,上升至2025年的9%。

在供給市場面,由於inference server採用大容量SSD產品的趨勢不變,供應商已開始著手加速升級製程,規劃從2025年第1季起開始量產2YY/3XX層,進而量產120TB enterprise SSD產品。

延伸閱讀

國銀上半年阻詐38億元!神盾、天網 AI、鷹眼模型齊上陣

他苦惱妻要求「賣掉限量模型轉投資名牌包」 網建議:自己賺的自己花

慧榮科技於FMS 2024 推出全球首款採用台積6奈米EUV製程的控制晶片

科林研發推出 Lam Cryo 3.0低溫蝕刻技術 加速3D NAND微縮

相關新聞

鴻名員工涉嫌盜賣公司存貨 影響淨利8千萬

連接器廠鴻名(3021)17日晚上召開重訊記者會,鴻名總經理林嘉祥指出,公司發現一名員工涉及偽造文書、盜賣存貨之不法行為...

川普批台灣搶生意 「3套劇本」台積電最不怕晶片關稅

美國總統川普點名台灣搶走美國的晶片生意,揚言修改「晶片法案」補助條件,壓迫台灣半導體產業,也對台積電步步進逼。連日來市場...

台積大投資9,000億銀彈上膛 在美召開董事會通過七大議案

台積電昨(12)日公告首度在美國亞利桑那州新廠召開董事會後的七項決議,以核准約171.41億美元(約新台幣5,639.1...

台積電11日在美開董事會 市場關注擴廠布局

本周是我國和美國川普新政府經貿關係的關鍵周。台積電將於十一日(美國時間十日)首度在美國舉行董事會,市場關注台積電的擴廠布...

環境變太快…企業如何長久不衰?張忠謀曾提9個長期成功原則

過去蘋果一枝獨秀,近來轉而聚焦在輝達和黃仁勳,但過年期間中國生成式AI DeepSeek推出,輝達股價遭受重挫。

美擬對台晶片徵關稅 前台積電研發處長:2國企業恐受影響

美國可能對台灣製造的半導體產品徵收關稅,前台積電研發處長暨前英特爾資深技術顧問楊光磊接受中央社訪問表示,若關稅政策實施,...

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。