AI新創 搶兆美元大餅

美國晶片大廠輝達（Nvidia）成功帶起人工智慧（AI）晶片熱潮、並贏得第一輪AI大戰後，除了各家晶片大廠都想與輝達爭鋒，諸多AI晶片新創公司也另闢蹊徑，著眼提供運算管道、提高系統運算能力及節能等利基，搶食這塊規模預估1兆美元的市場大餅，期望撼動市場版圖。

道瓊社報導，過去以打造遊戲顯卡聞名的輝達，已把AI晶片市場做大，超微（AMD）執行長蘇姿丰已估算AI晶片市場到2027年時將達4,000億美元，英特爾（Intel）執行長基辛格也預測相關商機到2030年時將增至1兆美元，引發超微、英特爾及高通等大型晶片製造商，還有雲端運算供應商和新創公司爭搶市場。

新創公司聚焦其他面向，例如Cerebras系統公司把所有運算能力集結到一顆龐大的半導體，再把晶片包裹到CS-3運算平台，但不是直接賣晶片，而是銷售使用其系統的管道，客戶包括葛蘭素史克（GSK）、Mayo Clinic及Lawrence Livermore國家實驗室。

Cerebras已在3月發表該公司迄今最大的晶片-72平方英吋的WSE-3，遠大於輝達H100晶片的約0.25平方英吋。Cerebras的晶片有4兆顆電晶體，運算能力是H100的50倍。

Groq創辦人羅斯曾在開發Google AI晶片扮演重要角色，他表示，Groq系統運算Meta的Llama 2-70b等模型的速度，是輝達系統的十倍快。

Groq也不銷售晶片給硬體和雲端業者，而是根據使用運算平台的時間收費。

d-Matrix聚焦於資料中心內的AI推論應用，使用名為「記憶體內運算」的設計，以加快運算速度，預料明年開始銷售晶片。

SambaNova也從系統下手，除了晶片，該公司也集結54種開源碼的AI模型，客戶涵蓋銀行、醫療保健及政府等領域。

已獲OpenAI執行長奧特曼支持的Rain AI，特別聚焦於節能以及在邊緣裝置運行大型語言模型，Lightmatte則以光子技術提高AI資料中心的網路速度。

不過，這些新創公司雖擁有重大構想，卻仍小規模經營，可能要花上多年才能槓上輝達，只是若進展加速，依然有望強力吸金並賺進更多營收。