快訊

前委員疑當電信詐騙集團門神 NCC震驚回應了

新北某高職外籍生「2人下水僅1人上岸」 消防馳援擴大搜尋

超商店員狂嫖少女拍片賣暗黑論壇...恐怖手法曝光 入獄前海撈239萬

AI帶動半導體產業 成為驅動相關供應鏈2024年業績的主要動力

※如欲轉載本文,請與北美智權報聯絡

林宗輝╱北美智權報 編輯部

人工智慧技術的快速發展,正在為半導體產業帶來新的成長動能。根據產業分析,人工智慧相關應用將為2024年全球半導體銷售額貢獻約10%的成長。人工智慧需要大量計算資源來訓練模型和進行推理,這將推升對高效能計算晶片的需求,包括圖形處理器(GPU)、應用專用集成電路(ASIC)、以及人工智慧專用晶片,甚至相關的儲存需求等等,隨著人工智慧在產業應用的不斷普及,相關半導體需求也跟著水漲船高,成為驅動2024年業績的主要動力。

人工智慧應用是由訓練和推理建立起來的服務框架,需要龐大的計算能力,因此高速且並行處理能力強的GPU一直是企業建立人工智慧服務的首選。目前主流的GPU廠商如NVIDIA和AMD都專門開發了人工智慧加速功能,並推出了多款專為人工智慧而設計的GPU產品。此外,為了提升人工智慧模型的推理效能和降低功耗,也開發了許多人工智慧專用晶片,如Google的TPU就是一例。這些專用晶片都針對人工智慧運算進行了最佳化設計。

人工智慧也需要大量儲存空間來存放訓練資料和模型,進而帶動對記憶體和儲存裝置的需求,尤其是高頻寬記憶體。訓練大型人工智慧模型需要處理海量資料,因此需要高速的記憶體才能順利進行。此外,已訓練好的大型模型也需要大容量的儲存空間進行保存。例如,目前主流的HBM記憶體提供了極高的記憶體頻寬,可滿足人工智慧訓練與推理\的需求。大容量固態硬碟也被廣泛用於儲存大型人工智慧模型。

從邊緣運算到雲端運算

隨著相關技術的發展,各種人工智慧應用也在快速增加。首先,在邊緣運算應用方面,對即時性和低延遲有較高要求,晶片性能必須足夠,這使得相關的半導體需求正在大幅提升。人工智慧邊緣運算將計算和分析運行於接近資料來源的邊緣設備中,減少了雲端之間的資料傳輸,可實現更快速的分析和響應。例如,自駕車輛需要在車載設備本地即時分析圖像和感測器資料來進行決策。另外,工業物聯網中的各種感測器也需要在邊緣進行即時分析。這些應用都需要高效能的邊緣晶片來實現人工智慧運算。

除了終端應用以外,生成式人工智慧可以自動生成各種內容,也同樣會導致對相關晶片的需求大增。根據KPMG的調查,生成式人工智慧已成為半導體企業重視的新興技術之一。隨著像DALL-E、Stable Diffusion這樣的生成式AI模型應用日益增多,使得能夠加速AI運算的圖形處理器(GPU)需求大幅增加,以滿足這些模型訓練和推理的計算需求。此外,人工智慧晶片的專用化和異質整合也是重要趨勢,除了增加相關模型的訓練與推理效率以外,也能夠有效降低成本。例如Google 的TPU就是人工智慧專用晶片的代表,有效降低對主流GPU的需求。

台積電認為,隨著人工智慧在各個領域的應用日益增多,對半導體的需求也將持續擴大。根據IDC預測,2024年整合生成式AI的新款個人電腦將推出,這也將促進半導體在AI PC市場的銷售。AMD看好人工智慧將推升對其AI晶片的需求,預計2024年從AI晶片可獲得逾20億美元收入。NVIDIA的人工智慧晶片需求甚殷,其新款H100 AI顯卡的交貨時間更長達52周。市調機構預測,到2025年,人工智慧邊緣計算市場規模將達上百億美元。可見,人工智慧市場前景可期,將可為半導體產業注入新的成長動能。

對半導體企業來說,要在AI晶片市場取得成功,就必須加強與人工智慧公司的戰略合作,以掌握市場動向;同時,在人才培養上下功夫,以確保在AI晶片技術上的領先優勢。如果能抓住人工智慧浪潮,半導體企業就能在新一輪的技術革新中站穩陣腳,並在激烈的市場競爭中佔據有利地位。

驅動記憶體及儲存需求

人工智慧模型訓練和推理過程中需要處理大量資料,這對記憶體和儲存裝置的需求提出了更高要求。為了加速訓練和推理速度,需要高頻寬、低延遲的記憶體。同時,存放大型訓練資料和模型本身也需要大容量儲存裝置。隨著人工智慧模型規模不斷擴大,訓練資料量達到TB、PB級,記憶體和儲存的需求更加強烈。

新型記憶體技術如HBM、HMC等堆疊式記憶體,可以為人工智慧應用提供遠超過DDR記憶體的記憶體頻寬。NVMe、SCM等新型儲存介面和技術也可以提供遠高於SATA、SAS等傳統介面的資料存取速度。儲存系統方面,基於快閃記憶體的SSD正在快速取代傳統的機械硬碟,提供了遠超硬碟的讀寫速度。另外,儲存類別的判別以及資料位置感知也很重要,可以讓不同類型、不同存取頻率的資料對應最適合的儲存介質,進一步提升整體儲存系統效能。

隨著人工智慧行業的發展,對高速、大容量記憶體和儲存的需求將持續快速增加。這將推動相關技術的創新,也為記憶體和儲存製造商帶來新的市場機會。

先進製程技術發展

為了實現人工智慧模型的高效訓練和推理,需要使用先進的製程技術來提升晶片的計算密度和效能。人工智慧應用對計算效能、功耗和成本的要求,正在推動半導體製程技術的發展。

先進製程如5奈米、3奈米製程可以大幅提高晶片的邏輯閘數和晶片密度,使單一晶片可以整合更多運算元件,從而提升人工智慧晶片的運算效能。此外,先進製程也可以進一步降低晶片的能源消耗,這對電池供電的終端設備以及大規模資料中心都非常關鍵。除了製程節點的縮小外,新的材料和製程技術如EUV光刻也可以提高製程良率,降低成本。

另外,2.5D和3D堆疊封裝技術可以將多個晶片垂直堆疊起來,使用矽貫通孔(TSV)進行垂直互連,大幅提升晶片間的頻寬,這對記憶體和邏輯晶片的整合具有重要意義。而先進封裝技術的運用,亦能推動人工智慧晶片的異構整合,實現系統級設計的最佳化。

為降低人工智慧系統成本,半導體企業也在持續改進製程技術以提高晶圓產能,同時最佳化晶片設計以提高單晶片閘數,降低單位成本。隨著製程技術的不斷創新,人工智慧晶片的性價比也將越來越高。

為了滿足相關應用的需求,台積電等半導體企業也將持續投入大量資源進行製程技術創新,以滿足人工智慧市場的需求。這將推動半導體技術取得重大突破,也將促進半導體產業的長期發展。

 

作者:林宗輝
現任:北美智權報資深編輯
學歷:大葉大學
經歷:電子時報半導體資深分析師

MIT Techreview 中文版研究經理

財訊雙周刊撰述委員

美國波士頓Arthur wood 投資顧問公司分析師

延伸閱讀&電子報訂閱連結:

【更多內容請見《北美智權報》350期;歡迎訂閱《北美智權報》電子報

延伸閱讀

小摩分析師喊買博通 是僅次於Nvidia的AI晶片首選

全球半導體銷售額 今年將破紀錄

英媒爆中芯將為華為新手機生產5奈米晶片 業界人士透露最大隱憂

威剛營收/1月增逾一成 看好DRAM、NAND Flash價格漲勢

相關新聞

從電動車到AI 看馬斯克開放原始碼背後的商業盤算

特斯拉執行長馬斯克在電動車和AI領域頻頻祭出開放原始碼大旗,無私地推動產業創新。然而,若深入剖析其開放原始碼策略,卻發現馬斯克的慷慨背後,藏著精心設計的商業算盤。這場看似利他的開放原始碼大秀,實則是一齣商業利益最大化的好戲。

氫離子幫浦抑制劑之藥劑劑型的顯而易見性:Santarus, Inc. v. Par. Pharm., Inc., 694 F.3d 1344 (Fed. Cir. 2012)

於臨床上,奧美拉唑是非常重要的氫離子幫浦抑制劑,可用於抑制分泌太過旺盛的胃酸,減少胃食道逆流、胃潰瘍及十二指腸潰瘍等症狀,改善患者的日常生活。藥物專利侵權訴訟的攻防中,涉及氫離子幫浦抑制劑者數量不多,較常見者係以其藥物化學構造的顯而易見性為爭議者,較少見者則如本文,係涉及氫離子幫浦抑制劑之藥劑劑型的顯而易見性,因此,本文擬藉由Santarus, Inc. v. Par. Pharm., Inc., 694 F.3d 1344 (Fed. Cir. 2012).案件[1] ,來探討有關氫離子幫浦抑制劑之藥劑劑型的顯而易見性。

歐盟資料法正式上路

為了打造資料經濟並推動2030年數位轉型工作,歐盟繼資料治理法之後,進一步完成資料法(Data Act)立法工作,該法業於2024年1月11日生效,且最快於生效日起20個月後開始適用(亦即2025年9月12日)。 惟第3(1)條規定(新產品資料存取簡化)係適用於該法生效日起32個月後上市之連網產品及其相關服務,亦即2026年9月12日。

中國機器人產業發展研析

中國似乎尚未在機器人創新方面處於領先地位,但其國內生產和採用正在迅速增長,並且政府已優先投入該產業發展,即便關鍵技術取得越發困難,但在資源挹注下,中國機器人企業取得領先可能只是時間問題。

2024年全球電動車產業發展:新興市場成為新戰場

經濟部國際貿易署於日前主辦「工具機應用產業趨勢與商機分享會」,MIH EV研發院執行長鄭顯聰分析全球新能源車產業市場,亞太市場是最具有潛力的地區,台灣工具機廠商可以思考如何切入汽車領域的相關應用,趁勢而起成為全球電動車產業生態系統的關鍵角色。

控告華碩的ACQIS公司來歷為何?專利蟑螂與合法NPE的界線

美國德州聯邦陪審團於3月22日裁定,華碩生產銷售的電腦相關硬體零組件侵犯了ACQIS公司的2項專利,必須支付1800萬美元(約新台幣5.7億元)的賠償金。雖然華碩主張這些專利無效,並強調自己並未刻意侵權,但陪審團仍認定專利有效,駁回了華碩的主張。

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。