快訊

準總統發聲了!立院審國會改革法案爆衝突 賴清德凌晨貼文籲回歸理性

新護國群山

【文‧洪寶山】

ChatGPT掀起第四波工業革命 輝達AI晶片缺貨缺到不行

歷史是意外推動的,ChatGPT突然掀起第四波工業革命,好在有生成式AI崛起才挽救了今年的股市,特別是在美債殖利率倒掛九個月,華爾街一片唱衰美國難以躲過高利率的殺傷力,而且市場高估了中國消費力復甦的速度,U型經濟復甦變成了L型復甦,結果道瓊指數漲了+6.98%、那斯達克指數漲+36.79%、費城半導體指數漲+52.12%,光從股價表現一點也看不出半導體飽受庫存去化的困擾,一切都是因為輝達的AI晶片缺貨缺到不行。

黃仁勳曾在台北電腦展說過一句話:「用得越多,越便宜」,當時不太懂什麼意思,以為是行銷話術,現在看來真是如此。H100晶片配有一個Transformer引擎,主要處理驅動類似ChatGPT的預訓練模型,與用於GPT-3處理的HGX A100相比,配備四對H100與雙GPU NVLink的標準伺服器的訓練速度可提高十倍,所以H100可以將大語言模型的處理成本降低一個數量級。輝達的DGX超級電腦,搭載八個H100 GPU,將它們連接成為一個巨大的GPU,根據雲服務提供商認為,一萬顆A100晶片是一個好的AI模型的算力門檻,例如微軟為OpenAI構建用於訓練其模型的AI超級電腦,就配備了一萬顆輝達的GPU晶片。

微軟掀起算力軍備競賽 美國四大雲服務提供商迎戰

微軟掀起算力軍備競賽,Google當然迎戰,Meta、亞馬遜以及特斯拉也加入戰局,在上週第二季財報,微軟與Google都表示加碼投資AI基礎建設,單單這五家企業至少就是五萬片AI晶片需求,再加上中國已知至少百度、科大訊飛、第四范式、清華、復旦在內的企業或科研院等共計六十九家都宣稱研發或發表類ChatGPT大模型。而且A800與H800晶片的效能較A100與H100低三分之一到一半,等於是需要更多的AI晶片才能達到等同微軟等四大雲服務提供商的算力,也難怪輝達的H100,四月中旬就已經喊到四萬美元以上,甚至有賣家出價6.5萬美元,年初時輝達的A100晶片約1.7萬美元左右,可以想見輝達的第二季財報還是科技業的亮點。

在全球伺服器市佔率,鴻海佔43%、廣達17%、緯創14%、英業達12.8%等,光是這四家台廠市佔率就達到86.8%,其他依序為美超微7.6%、神達1.8%、技嘉1.5%、環鴻0.8%、仁寶0.6%、和碩0.2%。在美中賽局裡,伺服器攸關資安與國安,美國四大雲服務提供商必須排除中國供應鏈,所以AI的崛起,台廠有明顯的優勢,不僅可避免陷入價格紅海競爭,而且輝達在AI寡占地位的時間會比市場預期的還要久。

因為輝達與其他晶片廠商的差距,是院士與高中生的差別,關鍵就在輝達早在2006年就推出了計算平台CUDA,CUDA框架裡集合了很多調用GPU算力所需的代碼,如果沒有這套編碼語言,軟體工程師發揮硬體價值的難度會變得極大。

輝達寡占的地位越久 台廠供應鏈地位就越重要

AI晶片發展至今,CUDA已成為AI基礎設施,主流的AI框架、庫、工具都以CUDA為基礎進行開發,他牌的AI晶片如要接入CUDA,需要自己提供適合的軟體,後果就是大模型整體訓練和開發成本會高於輝達,還得承擔結果和開發時間的不確定性,在AI的競賽裡,時間的領先優勢才是重點。

算力的釋放需要複雜的軟硬體配合,才能將晶片的理論算力變為有效算力。數據中心通常更願意採用同一種晶片,或者同一家公司的晶片來降低算力池化難度。對客戶而言,更換雲端AI晶片要承擔一定的遷移成本和風險,除非有很好的理由,否則客戶更換的意願很低,所以輝達寡占的地位越久,台廠相關的供應鏈地位就越重要,這次ICT產業崛起將成為台灣新護國群山。

【全文未完,詳細內容請參閱最新一期《理財周刊》1197期。尊重智慧財產權,如需轉載請註明出處來源;訂閱理財周刊電子雜誌或免費下載APP

延伸閱讀

不甩拜登?英特爾在深圳設創新中心 聚焦AI、晶片

高通財測失色 非蘋手機鏈警報響起

外電報導日再祭補貼邀台積蓋熊本二廠 公司:評估中

跟拜登政府唱反調 英特爾將在深圳蓋晶片創新中心

相關新聞

夏月電價啟動 省電夏一跳

夏月電價啟動,5月16日到10月15日適用特高壓用電大戶,16~22時夜晚尖峰時段,全年一律適用每度7.49元電費;而半尖峰時段,其夏月電價提高為每度4.64元(非夏月每度4.34元);離峰時段,夏月電價每度調升到2.08元(非夏月每度1.89元)。台電表示,因高壓、特高壓等用電大戶的電價本來就比較高,因此夏月電價對產業電費增加差異不至於太明顯。

定期定額 首選市場型ETF

台灣人愛領息,高股息ETF成為大家競逐的焦點,但高股息ETF真的比較吃香嗎?ETF精選神器APP開發者Marra有不一樣的觀點。

COMPUTEX展 聚焦AI PC供應鏈

台北國際電腦展(COMPUTEX)即將於六月初正式登場,延續年初美國CES主軸五大亮點,背後都圍繞著AI各項應用,再觀察此次包括超微(AMD)等四大咖CEO的主題演講內容,全數聚焦在AI PC布局與新應用上。

美CPI持續頑強 黃金大漲

市場屏息以待CPI 資料 美元105是關鍵!

駿吉引進梁見國新董事 打造傳產轉型AI科技傳奇

槍釘廠駿吉-KY(1591)5月15日召開股東大會,選出三位新董事,其中,台超微國際股份有限公司董事長梁見國獲選進入董事會,當日駿吉股價爆量漲至80.6元作收,本刊此次特別專訪董事長李長賡,他表示,今年對駿吉而言是一個重要轉折點,有機會虧轉盈外,也希望在其任內能成功打造傳統產業轉型科技產業的傳奇故事,規劃未來三年AI伺服器與算力中心營收占比將高過槍釘達16億營收,引進梁見國擔任新董事成員就是朝此目標邁進,以下是專訪內容:

大象變狐狸

在這場AI競賽銷聲一年的蘋果,今年要怎麼改變競局呢?股價在165~200美元震盪的蘋果,目前市值2.61兆美元,暫居第二大,日前蘋果宣布不造車、不做手錶顯示螢幕microLED,然後宣布自研邊緣AI端的大模型,4月25日蘋果官網宣布端側小模型OpenELM,參數2.7億到30億,一台M2 Mac可跑起來。

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。