功耗升級催生散熱產業鏈

【文/呂泰德】

AI伺服器功耗從晶片燒到整櫃,氣冷已難支撐高密度部署,液冷從選配走向標配,台達電、奇鋐、雙鴻、緯穎等台廠卡位系統升級。

如果說二○二三年是生成式AI全面驅動的起點,那麼二六年則是AI資料中心正式進入功耗時代的分水嶺。過去二十年間,全球資料中心競爭焦點主要圍繞在運算效能、儲存容量與網路頻寬,但隨大型語言模型、生成式AI與AI Agent快速擴張,市場開始發現真正限制AI基礎建設擴張速度的關鍵因素,已逐漸從晶片供給轉向電力與散熱能力。因為當運算密度持續提高,熱量增加速度遠遠超過傳統資料中心的設計假設,氣冷架構逐漸逼近物理極限。

當前,企業機房與一般雲端伺服器大多採用氣冷設計,單櫃功耗約落在五至十五kW,大型雲端業者部分高密度機櫃雖可達二○至三○kW,但仍可透過空調系統、冷熱通道管理以及高效風扇維持穩定運作。然而生成式AI出現後,情況開始出現變化,因為AI伺服器不只是增加數量,而是讓單一機櫃的運算密度呈現倍數成長。尤其GB200 NVL72的問世,象徵AI資料中心正式從伺服器時代跨入機櫃時代。

功耗升級改寫散熱規格

過去資料中心競爭的是單台伺服器效能,如今競爭的則是整個機櫃的運算能力與能源效率。由於七二顆GPU需透過NVLink高速互連形成單一運算平台,系統設計更強調集中部署與高速資料交換,使算力密度創下歷史新高,但同時也將熱源高度集中。當機櫃功率密度突破一○○kW門檻後,傳統依靠風扇與空調的散熱方式逐漸接近極限,促使液冷從過去的選配方案轉變為新世代AI資料中心的重要標準配置,並帶動冷板、CDU、快接頭與液冷機櫃等供應鏈全面升級。

根據施耐德電機公開資料,AI資料中心機櫃功率密度已由傳統十至二○kW,快速提升至超過一○○kW水準,未來更有機會朝數百kW發展。對資料中心營運商而言,真正的挑戰不只是耗電量增加,而是熱量移除效率。因為空氣本身的熱容量有限,即使增加風量與空調能力,也無法有效解決高密度運算所產生的局部熱點問題。反觀液體的熱傳導效率遠高於空氣,能夠更直接將熱量從GPU與CPU表面帶走,因此開始成為AI資料中心的主流方向。

也正因如此,Nvidia執行長黃仁勳也多次強調,未來資料中心將不只是儲存與運算空間,而是生產AI模型與AI服務的工廠。既然是工廠,就必須考慮能源供給、熱能管理與營運效率。這種思維轉變使得資料中心逐漸從資訊科技產業,跨入能源工程與基礎建設。

液冷直攻晶片熱源

當AI伺服器的運算密度愈高,熱源就愈集中,過去靠風扇、散熱片、熱導管與機房空調堆出來的氣冷架構,已經很難支撐百kW等級的機櫃部署。過去資料中心是把熱從伺服器內部吹到機房,再由空調系統處理;但AI機櫃的熱密度太高,若仍先讓熱留在機箱內,再透過空氣慢慢帶走,不只效率低,還會讓風扇耗電、空調負載與機房能耗同步上升。因此,產業開始把散熱位置直接貼近GPU與CPU,把熱在源頭就帶走,這就是直達晶片液冷(Direct-to-Chip; DTC)液冷。所謂DTC液冷,核心是利用冷板貼(Cold Plate)附在GPU、CPU與高熱源元件上,讓冷卻液透過冷板內部微通道流動,直接把晶片運算產生的熱帶走,再經由歧管、管路與CDU液冷分配裝置把熱交換出去。

【本文未完,全文詳情及圖表請見《先探投資週刊》2407期;訂閱先探投資週刊電子版

相關新聞

聯電攻矽光子、世界搶電源管理 AI基建推動成熟製程結構性翻身

AI基礎建設從先進運算晶片向高速互連、電源管理及特殊製程擴散。聯電強化矽光子與特殊製程布局;世界則受惠資料中心電源管理晶片需求。

外資點評下一檔萬元股有誰?川湖業績暴衝 繼信驊之後穩坐萬元股

無畏股災震撼教育,不到半年,台股再誕生第三檔萬元股—川湖,GB300出貨、業績狂飆是股價得以螺旋式上升最大底氣,後續還有哪檔AI股最具萬元相?

反彈滿足 好股盤整見真章

低基期及高獲利族群各自表述,跌深反彈股如記憶體、電源供應及CPO族群,而斥鉅資擴產的先進封裝、ABF及設備廠,還有下游的工業電腦受到AI運用降價鬆動,導入設計應用,獲利也開始提升,可列為口袋名單。

謝金河:川湖帶來的新效應 真正牽動股價的是基本面

上回提及在七月的大狂殺中,市場出現一段讓投資人朗朗上口的順口溜,被點名的幾家公司中有國巨*、華新科、禾伸堂、力成、群聯、金居、川湖等知名的企業,最經典的是買入國巨,來生再聚!買入禾伸堂,直接送靈堂!買入華新科,輸到送精神科!買入群聯,終生失聯!買入金居,一生獨居!買入川湖,送去慈湖!……

美國斷光行動 光通封殺令下的絕對贏家

假使禁令全面實施,今年底將會碰到800G的轉單陣痛期,明年則是1.6T的非紅供應鏈封鎖。非紅鏈的光通訊模組能否承接中際旭創、新易盛的供給缺口,恐將決定未來AI機櫃出貨是否會面臨有機櫃、無光網的問題。

雲端三巨頭AI變現 兩好一壞

金融市場允許科技大廠在AI上拚命燒錢,但要能實踐AI商業模式,燒錢後能有清晰的變現途徑。亞馬遜、微軟通過市場考驗,谷歌變現模式還在檢驗中。

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。