輝達推「最強大」H200晶片 將一舉打趴超微、微軟?

輝達能否憑藉H200晶片,一舉打敗超微(AMD)、微軟等競爭對手?擷自黃仁勳演說影片
輝達能否憑藉H200晶片,一舉打敗超微(AMD)、微軟等競爭對手?擷自黃仁勳演說影片

晶片業巨頭輝達Nvidia)日前宣布,將推出全新改版升級的「H200」晶片,據說效能強大,被譽為「最強大AI晶片」!究竟,輝達能否憑藉H200晶片,一舉打敗超微AMD)、微軟等競爭對手?

當今科技產業最炙手可熱的處理器,非輝達「H100」晶片莫屬,各家欲瓜分生成式AI這塊餡餅的企業,不惜砸重金購入,卻始終因供應趕不上需求而「一片難求」。如今,輝達以H100晶片原型為基礎,推出效能更勝一籌的下一代H200晶片,引發業界高度關注,消息一出,輝達股價即刻上漲1.4%。

美國財經雜誌《巴倫週刊》(Barron's)報導,H200晶片預計將於2024年第二季度正式上架,率先將新晶片運用到自家雲端服務的公司,包括亞馬遜、微軟,以及Google等。

執掌輝達超大規模和高效能運算業務的副總裁巴克(Ian Buck)表示:「有了輝達H200晶片,業界最頂尖的端對端AI超級電腦,運轉速度又變得更快,足以解決全球正面臨的幾項最艱鉅挑戰。」

H200晶片預計將於2024年第二季度正式上架,率先將新晶片運用到自家雲端服務的公司,包括亞馬遜、微軟,以及Google等。彭博資訊
H200晶片預計將於2024年第二季度正式上架,率先將新晶片運用到自家雲端服務的公司,包括亞馬遜、微軟,以及Google等。彭博資訊

強大記憶體是H200致勝關鍵

H200晶片沿用輝達現有「Hopper」架構,在硬體設計上,與H100晶片並無太大差異。外媒CNBC指出,「H200可與H100相容,現正使用H100晶片訓練大型語言模型的AI公司,並不需要更換伺服器系統或軟體,就能使用改版的晶片」,兩代晶片基本上可做到「無縫接軌」。

既然如此,那H200到底以什麼取勝?答案就在於它強大的記憶體。

生成式AI的基礎為大型語言模型(large language model, LLM),而大型語言模型,是一種可以被訓練的深度學習演算法,透過分析、處理大量資訊,來學習如何根據使用者的問題,產出合理的答案。

訓練過程中,使用的晶片記憶體容量愈大,大型語言模型就能一次處理更多資訊,且演算速度也會更快。如此一來,ChatGPT等生成式AI,也能更迅速產出文字、圖像,而ChatGPT開發商OpenAI使用的,正是輝達H100晶片。

H200晶片內建「HBM3e」次世代記憶體,容量達141GB,比H100晶片內建的80GB容量高出不少。據CNBC報導,輝達以Meta公司的「Llama 2」大型語言模型進行測試時,發現相較於H100晶片系統,H200晶片系統的產出速度近乎翻倍,處理大量資訊的能力相當驚人。

財經新聞網《市場觀察》(MarketWatch)報導強調,「對高效能運算作業來說,記憶體技術往往和處理器硬體設備一樣重要。未來,全新AI模型及高效能運算負載量,將進一步考驗記憶體的容量。」

輝達不只賣晶片,還賣「生態系」

輝達宣布推出改版晶片的時間點相當微妙,畢竟,最主要的競爭對手之一超微,早前已預告將在今年第四季度發行專為AI、高效能運算工作,而設計的MI300晶片系列。

《市場觀察》評論指出,「輝達已是業界領頭羊,升級記憶體看似流於形式,但眼看英特爾(Intel)繼續推動繪圖處理器及AI加速器的發展,而超微也將發行MI300系列AI晶片,輝達因此必須不斷主動出擊。」由此可見,輝達選擇在此時推出H200晶片,一部分原因,可能就是要與超微一較高下。

除了超微之外,輝達的合作伙伴微軟如今也加入戰局,於日前宣布,將推出公司內部自主研發的資料中心AI晶片,預計2024年開始投入運作,屆時將應用在搜尋引擎「Bing」,以及「Microsoft 365」、「Azure OpenAI」服務項目當中。英國《金融時報》(Financial Times)指出,微軟這一策略,除了要增加晶片來源多元性、減少對單一晶片供應商的依賴,另一目的,則是要將公司的「硬體和軟體設施緊緊捆綁在一起,以提升產品效能及效率。」

事實上,微軟也並非首個同時使用輝達晶片,以及自家晶片的公司,亞馬遜及Google等雲端科技領域巨頭早已這麼做。合作對象紛紛為自家產品量身定做晶片,輝達龍頭老大的寶座,是否會因此不保?

對此,《市場觀察》評論重申,輝達最大的優勢,在於「不只能製造晶片,還擁有打造完整平台及生態系的能力。」生成式AI開發商不僅會向輝達購買晶片,同時,還會使用輝達研發的軟體來寫程式、開發新產品等,從而確保市面上最新的AI產品,都是「根據輝達晶片的規格去進行優化的」,進一步鞏固輝達的絕對領導地位。因此,短期內,其他競爭對手大概仍無法與輝達平起平坐。

(本文出自2023.11.20《遠見》網站,未經同意禁止轉載。)

AI NVIDIA 微軟 晶片 記憶體 超微 輝達 黃仁勳

延伸閱讀

Nvidia 財報繼續給投資人驚喜的數字 陸行之點出三隱憂

晶心科切入Meta第二代自研晶片 獲大摩按讚目標價喊560元

輝達 H100、B100主力載板供應商估仍為日系廠 台廠拚搶進

輝達證實 將為大陸開發改款「合規晶片」

相關新聞

台積電下屆董事候選人名單出爐!林全與二外籍女獨董入列

台積電今日宣布十位董事被提名人,包括三位現任董事魏哲家、曾繁城、龔明鑫,四位現任獨立董事彼得‧邦菲爵士、麥克‧史賓林特、...

晶圓代工廠業者世界先進:電價若調漲15% 今年毛利率影響0.5%到1%

專業8吋晶圓代工廠世界先進董事長方略今日表示,政府決定宣布調漲電價,世界內部估算,若電價漲幅15%,世界因是用電大戶,一...

台積掀雲嘉搶水大戰 嘉義設廠向雲林借水

台積電將在嘉義科學園區設置兩座CoWos先進製程封裝廠,第一廠預計二○二八年量產,屆時每天需三點三萬公噸用水,水利署計畫...

台積電是黑船2.0翻轉日本失落30年?陳冲:勿讓一個人的武林孤芳自賞

台積電(2330)日本廠在熊本風光開幕,「經濟學人」以日本廠較美國廠擁有 more luck(更多的幸運)為題,不足一頁...

總裁展現信心 魏哲家:與台積競爭「門都沒有」

台積電總裁魏哲家昨(29)日指出,台積電不與客戶競爭、贏得客戶信任,或許對手會追上製程與技術,但台積電純晶圓代工模式獲得...

學者批美晶片法 傷害台積電

國際評論網站「評論彙編」廿六日刊出工研院前院長史欽泰、台積電前副總林本堅、芝加哥大學經濟學教授謝長泰聯名撰文,批評美國「...

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。