輝達展現軟硬體實力 AI分析師指出2亮點2挑戰

輝達執行長黃仁勳今天在GTC大會上發布多款新產品。AI界權威分析師歐唐納爾受訪分析2亮點，表示新一代AI晶片是首款專為訓練語言模型而生的晶片，此外，其擴展軟體技術有助公司長遠布局。

輝達（NVIDIA）GTC大會今天登場，執行長黃仁勳進行主題演講，內容圍繞人工智慧發展技術，他宣布多款新產品，包括外界矚目的AI新晶片，也就是新一代的GPU，硬體升級之外，輝達與日俱增的軟體影響力也備受業界關注。

AI界權威分析師歐唐納爾（Bob O'Donnell）今天全程參與主題演講，他會後接受中央社專訪，表示黃仁勳2小時演說中，有2項重要發展影響深遠。

第一，黃仁勳一如外界預期發表新晶片BlackwellB200，歐唐納爾說，這是非常大的進展，「我認為它是專門為生成式AI時代設計的第一款晶片。」

他表示，晶片設計耗時漫長，目前出現的其他晶片，儘管已被使用在訓練大型語言模型（LLM），「但不一定是專為LLM設計的產品」，輝達對晶片架構所做的改變，是專門為LLM設計，「且能訓練的模型規模甚至比以往更大。」

他強調，輝達瞭解「AI未來的需求只會更大」，第一次推出這種產品。

他特別點出關鍵，新晶片運用新一代Transformer引擎設計，性能將顯著提升，「這是重大的變化」，可訓練的模型變大、能訓練的數據量也增加一倍。

他說，「以簡單的數學邏輯來說，它可以執行2倍的運算...這會讓輝達在業界超前一段時間。」

第二，歐唐納爾表示，黃仁勳此次發表的「軟體技術」令他眼睛為之一亮。

大部分的人熟悉輝達強項為硬體技術，但今天黃仁勳還宣布推出可大幅縮減部署時間的NIM推論微服務，「這替輝達提供潛在機會去創造新的收入來源。」

他說，這項技術建立在輝達的CUDA平台上，輝達目前營收主要來源為硬體，因此，有新的收入來源「攸關輝達這間公司更長遠的發展。」

他進一步解釋，科技巨擘深知晶片重要性，包括微軟（Microsoft）、亞馬遜（Amazon）、OpenAI，都試圖開發的晶片，不希望過度依賴輝達，因此輝達未來發展，不能單靠晶片，公司想要持續成長，必須要創造另一個收入來源。

另外，更重要的是，這項服務使得企業更容易採用生成式AI產品。

歐唐納爾點出，現在許多企業即便對生成式AI深感興趣，「但實際使用上面臨很大挑戰」，因此需要更多工具輔助，才能創建自己的生成式AI應用程式。

歐唐納爾也提到輝達面臨的挑戰，包括「AI晶片短缺」的情況還是存在，訂單量顯然很大，「他們（輝達）如何增加晶片的供應會是考驗」。

此外，還有訓練的問題，編寫生成式AI的應用程式非常複雜困難，需要很長的時間，如何讓更多企業創建應用程式，也涉及未來發展。

歐唐納爾是科技業分析機構TECHnaanalysis Research總裁兼首席分析師，造訪過台灣15次，今年2024台北國際電腦展（COMPUTEX 2024）將再度訪台。