OpenAI首顆自研晶片登場 不靠輝達只花9個月…關鍵是他

摘要

OpenAI與博通（Broadcom）聯手推出首款自研 AI 推論晶片「Jalapeño」，從設計到製造僅耗時9個月，創下極高開發效率。此次突破除了歸功於OpenAI運用自身AI模型優化設計流程外，前Google TPU核心領導者、現任OpenAI硬體主管Richard Ho扮演了關鍵角色。

OpenAI與晶片業者博通合作，聯手推出第一顆自研AI推論晶片Jalapeño，證明了當年OpenAI創辦人奧特曼（Sam Altman）喊話要切入AI硬體，不是只為募資所畫的大餅，也有真實力。

特別是，相較於一般晶片開發是以年為單位，這顆晶片從設計到定案並送交製造，則只用了短短9個月時間。

更有意思的是，這個高速開發的背後，競爭對手Google竟也意外幫忙推了一把。

首先，有別於GPU的通用性，ASIC（特殊應用積體電路）晶片本身因為應用目標很明確，再加上OpenAI就是對自家AI模型演算法最熟悉的人，都是有助於他們加速開發的原因。此外，OpenAI指出，他們也運用了自己的AI模型，加速了部分設計與優化流程。

但難道只要掌握AI模型演算法，搭配AI協同開發，AI模型業者就可以在這麼短時間內從零到一開發出一顆全新AI晶片？

真正的關鍵，其實是沒有出現在鏡頭內的OpenAI硬體主管Richard Ho。

Richard Ho擁有史丹佛大學電腦科學博士學位，他的職業生涯起步於晶片驗證工具領域，是業界公認的先驅。而他最重要的一段經歷，是在Google任職近九年期間，參與了Google Cloud TPU計畫，既是創始元老，也是該計畫的核心領導者之一。外界稱他是「將Google TPU從概念帶到現實」的關鍵人物。

他在TPU團隊任職期間，曾與團隊在2021年於國際頂尖科學期刊《Nature》共同發表了一篇論文，首度嘗試將強化學習應用於晶片佈局規劃，並指出這可以大大縮短人類工程師的開發歷程。而後他們也實際應用在TPU的開發上。

這次OpenAI在新聞稿中提到的「用AI加速晶片設計」這項作法，其實Richard Ho早在Google時期就曾親手驗證。

「他的腦袋知道他們（OpenAI）要做什麼東西。」一名半導體業內人士認為，Richard Ho的多年實戰經驗，以及對軟硬體整合的熟悉度，幫OpenAI省下大量新手試錯的成本，這才是Jalapeño晶片開發背後，真正強大的加速器。

對OpenAI來說，Jalapeño的推出，代表的不只是逐步降低對輝達GPU晶片依賴的自主性強化，同時在運算效率的提升，也是他們在面對眼前這場AI算力成本競賽，能夠與對手抗衡的重要底氣。

Richard Ho談及該晶片時表示：「根據早期測試，它（指Jalapeño晶片）在執行我們最核心的工作負載時，將能逼近硬體的理論效能極限。」

回顧AI發展歷程，這其實已經不是Google第一次為人作嫁。如今各大AI模型底層採用的Transformer架構，就是來自Google的貢獻，而現在Google流出的人才，則是再給了其他AI公司發展自研晶片的追趕捷徑。

而這也不禁讓人聯想到，Google近期這一波人才流失，會否也在未來某一天，迴轉成為Google對手的最強助攻？

※本文由商業周刊授權刊載，未經同意禁止轉載。

※更多精彩報導，詳見《商業周刊》網站。

《原文OpenAI首顆自研晶片登場：只花9個月、不靠輝達，關鍵是這一人》