OpenAI砸百億美元衝AI基建 拚縮短語言模型反應時間

OpenAI已和新創公司Cerebras簽下協議,將採用這家新創的運算硬體,支持其快速擴張的AI基礎建設。(路透)
OpenAI已和新創公司Cerebras簽下協議,將採用這家新創的運算硬體,支持其快速擴張的AI基礎建設。(路透)

OpenAI和Cerebras Systems簽署了一項價值100億美元的多年協議,OpenAI將採用這家新創公司規模750千瓩(MW)的運算硬體,支持其快速擴張的人工智慧(AI)基礎建設

根據14日發布的聯合聲明,Cerebras將成為OpenAI的運算供應商,以縮短執行AI模型時的反應時間。這項基礎建設預定2028年前分階段建置,由Cerebras負責代管。儘管雙方未透露具體條款,但知情人士透露,這筆交易規模超過100億美元。

對OpenAI而言,這項合約是其擴張運算能力的一環,但也反映了科技產業一場前所未有的豪賭,看好市場對極耗能源的AI工具需求將持續旺盛且毫無減退跡象。

去年9月,輝達曾宣布將對OpenAI投資1,000億美元,用於建設AI基礎建設及電力容量至少達10 GW(百萬瓩)的新資料中心。隔月超微(AMD)也表示未來數年內,將為OpenAI部署運算能力6 GW的GPU。OpenAI也正與博通共同開發自有晶片。

OpenAI共同創辦人兼總裁布羅克曼說:「這項合作將使ChatGPT不僅是功能最強大,也是全球反應最快的AI平台」,這種速度將有助於開發「下一代應用案例,並帶領下一批十億用戶進入AI領域」。

據最新統計,在企業AI市場,OpenAI仍然最讓企業用戶著迷,且遠勝過Google和Anthropic等對手。Ramp分析逾5萬家公司在其平台上每月在AI服務方面的付款活動,發現美國企業去年12月花在AI產品和服務方面的支出比率提升至46.6%,比11月增長1.6個百分點,為自去年中來最大月比增幅。其中多數增長都受到OpenAI驅動。企業的OpenAI產品採納率上升2個百分點至36.8%,創紀錄新高,其他對手就算是Google也仍追不上OpenAI。

半導體新創Cerebras首創以大型晶片處理資訊的獨特技術,目前正尋求擴大普及這技術,挑戰市場領導者輝達(NVIDIA)。Cerebras也經營資料中心,用以展示元件效能並獲取經常性收入,其設計的晶片由台積電代工。該公司能爭取到像OpenAI這樣的大客戶,便有機會分食目前投入AI運算基礎建設的巨額資金。

Cerebras和OpenAI早自2017年便一直在探索合作的可能性,而Cerebras近日在支援OpenAI GPT-OSS-120B模型的表現上,運行速度比「傳統硬體」快了15倍。

OpenAI 基礎建設 規模

延伸閱讀

日經亞洲:中國正在擬定輝達H200晶片採購規則

美中角力戰再起 輝達H200晶片陸禁止進口

美電力基建ETF帶勁 專家建議分批布局

ChatGPT流量下滑!他曝「拚不過Gemini」主因:同事都搶買

相關新聞

航油價格一天一變 非洲航班落地才報價

隨著美以對伊朗開戰引發燃料供應短缺,全球航空公司努力因應航油飆漲帶來的成本劇烈波動,而在這場危機中,非洲因高度依賴進口,...

考量環境變化 ANA品牌AirJapan停飛

日本全日空控股公司(ANA HOLDINGS INC.)旗下的國際線品牌AirJapan在2024年2月開航,不過考量環...

荷莫茲海峽收費機制成形!通行費以人民幣計價 「收費站航線」曝光

自美國與以色列聯手對伊朗開戰以來,航運威脅已使全球最重要的石油運輸動脈、荷莫茲海峽,在過去四周內實質關閉,打亂全球油氣供應並推升能源價格飆升。不過,伊朗似乎正建立一套長期的「收費站」制度,並要求以人民幣支付通行費。

能源危機來襲 亞洲各國如何因應一次看

美國和以色列攻擊伊朗,伊朗反擊並封鎖重要航道荷莫茲海峽(Strait of Hormuz),隨著中東局勢升溫、能源供應受...

瑞士要動手壓匯率!瑞郎避險買盤爆發 央行擬干預 美方恐不滿

中東戰事升溫,避險資金湧入,瑞士央行周四表態,干預匯市的意願升高,以抑制瑞士法郎過快升值,但此舉恐再度引發與美國的貿易與匯率爭議。

壓倒性通過!三星電子工會投票93%點頭罷工 5月全面停工要來了

韓聯社18日報導,三星電子工會表示,在罷工投票中獲得93.1%壓倒性支持,並預告將於5月發動全面罷工。

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。