快訊

不斷更新/山陀兒颱風緩慢前進…金門率先宣布明正常上班上課 各縣市颱風假資訊看過來

山陀兒風雨肆虐高雄各地淹水 室內賣車室外卻整排「泡水車」

山陀兒颱風登陸後「眼睛依然明顯」 氣象署驚嘆:很特殊狀況

GTC 2024強強聯手更上層樓

【文/周佳蓉】

一年一度的GTC 大會風光落幕,此次帶來最新AI晶片、超級電腦、人型機器人計畫等重磅消息,大幅度的AI應用進化,也讓輝達的AI霸主地位更加穩固。

距離輝達(Nvidia)首屆舉辦GTC大會的二○○九年,已十五個年頭匆匆過去,如今輝達在全世界半導體的地位已不可同日而語,繼二三年衝破一兆美元,今年市值再度衝刺超過二.二兆美元,美股排名僅次於微軟(Microsoft)和蘋果(Apple)兩大科技巨頭之後,暌違五年的實體盛會,全球將GTC大會視作全球AI風向球,創辦人黃仁勳的演講談話也動見觀瞻。三月十八日對著會場座無虛席的人群,黃仁勳幽默地澄清:「這不是一場音樂會」,並表示能召集全球價值高達一○○兆美元、大量非IT行業代表參與此盛會,感到相當自豪。

小發表新一代AI GPU B200

輝達按照每兩年的更新頻率,升級一次GPU架構,從二二年首發採用Hopper架構的H100起引領著輝達穩坐AI晶片霸主地位,這次再推出採用 Blackwell 架構的GPU-B200。

B200是由台積電的五奈米家族(N4P)製程打造而成,並整合兩個獨立製造的裸晶(Die),共含二○八○億個電晶體,B200透過小晶片(Chiplet)先進封裝將八顆HBM3e高頻寬記憶體,記憶體達到一九二GB、頻寬達一.八TB/s,並預告今年稍晚會推出。

GB200則是由兩個Blackwell GPU和一個既有的ARM架構的Grace CPU組成的更強大AI加速晶片,延伸的還有基於GB200打造的DGX GB200 NVL72,以及運算效能更強大的超級電腦DGX SuperPOD。

相比Hopper和Ampere架構,Blackwell架構的B200性能有了巨幅提升,最大可支援十兆參數的模型訓練,以OpenAI的GPT-3和GPT-4做比較,最高分別支援為一七五○億和一.八兆個參數,而NVLink是由輝達開發作為CPU/GPU間的高速互聯通道,可最大化提升CPU/GPU的傳輸效率,如今已進化到第五代,成為B200傳輸速度能大幅提升的關鍵。

全新的加速運算平台DGX GB200 NVL 72,則擁有九個機架,共搭載十八個GB200加速卡,一套DGX版內部使用五千條NVLink銅纜線,累計長度綿延近二公里,可以減少二○KW的運算能耗,與相同數量的H100 GPU相比,在大型語言模型(LLM)推理工作性能可提升三○倍,成本和能耗最多可降低二五倍,針對AI運算需求龐大的企業,輝達目前已宣布亞馬遜AWS計畫採購由二萬片GB200晶片組建的伺服器,Dell、 Alphabet、Meta、Mirosoft、OpenAI、Oracle和特斯拉也將成為DGX GB200伺服器的採用者。

晶片仰賴台積電N4P製程

而DGX SuperPOD為新一代超級電腦平台,由八套DGX GB200系統打造而成,採用液冷設計,提供十一.五exaflops AI運算能力,輝達強調若企業預算足夠,最終可擴展至數萬個GB200 超級晶片,並透過NVLink連接五七六個Blackwell GPU,取得龐大共享記憶體。

值得注意的是,輝達也發表了新款基於大規模AI的網路交換機X800系列,以及人形機器人的模型GR00T專案,該專案內含開發套件Jetson Thor、更新的ISAAC Lab開發工具庫,GB200可透過X800取得八○○Gb/s超高速網路,而GR00T允許開發者利用平台模擬機器人學習技能,支持數千個機器人同步訓練與模擬。

繼硬體之後,軟體服務也是輝達不可或缺的護城河之一,輝達發表了整合AI開發軟體微服務系統的NIM,透過直接提供多產業、多模態的專有模型,讓缺乏AI開發經驗的傳統行業也有機會跨入。

不論是B100、B200晶片的推出都仰賴台積電的N4P製程,是台積電基於五奈米技術的效能強化版本,儘管此次輝達的晶片並非如外界預期直接導入三奈米製程,不過也是輝達首款採用小晶片(Chiplet)及CoWoS-L形式先進封裝的產品,解決高耗電量與散熱問題,而隨著台積電對於先進製程、先進封裝的擴廠動作積極,相關半導體設備、耗材股可望持續大啖商機。

【全文詳情及圖表請見《先探投資週刊》2292期;訂閱先探投資週刊電子版

延伸閱讀

Meta採用輝達新晶片 代工廠廣達領漲AI類股

Nvidia為何要打造機器人?黃仁勳提出解釋了

台積電上千元不是夢?網敲碗:最晚明年實現 一檔就是五元

輝達新品Meta掃貨 廣達代工AI伺服器可望獲3,000億元訂單

相關新聞

蘋果AirPods切入助聽器市場 掀起市場震撼彈

在美國FDA放寬非處方箋助聽器規範後,蘋果AirPods Pro 2跨足助聽器市場,為聽損人士帶來更便利、平價的選擇,是否會引起助聽器產業的新革命?

輝達GB200主要競技場在液冷 外資重新關注液冷散熱產業

輝達Blacewell GB200伺服器量產雜音及規格調整陰霾消除,液冷散熱明年產值將大噴發,散熱股大幅回檔後,已吸引大型外資法人重新審視投資契機。

台股再戰24000 誰是領頭羊?

繼美國聯準會降息兩碼,中國央行也宣布降準,美國道瓊與S&P 500指數頻創新高,最弱勢的中國股市也見反彈,台灣加權指數重返60日均線之上,成交量能已有回溫跡象。

謝金河:台積電再度領軍攻堅

即將進入第四季,世界的變化也愈來愈精彩,從八月五日日本銀行宣布升息○.二五%帶來全球股災,日經指數單日大跌四四五一點,接著是美國Fed宣布降息兩碼,美國最後一次升息是去年七月二十六日,這次在九月十八日宣布降息兩碼,比市場預期的一碼還多,但美股當天都大漲回應。

台特化掛牌聚人氣 先進製程帶起特化、材料商機

隨著半導體技術進步和市場需求增加,產業前景依然樂觀,尤其供應鏈在地化,國內相關化學品、氣體和耗材業者的營運表現值得期待。

半導體設備產值再升溫!設備展遺珠 補漲還不遲

科技新應用帶動全球半導體產業蓬勃發展,使設備股成為盤面焦點;近來,資金亦開始著墨股價還未有大幅度上漲或本益比較低的個股,有望成下一波指標。

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。