快訊

NVIDIA股價顫巍巍…美媒建議改打12張AI安全牌 這支台股也入列

大日向基隆市府要求給付5千萬敗訴 NET聲明:不解、遺憾

大陸對台灣進口苯乙烯續徵反傾銷稅 經濟部回應了

能趨動營收卻也是個大錢坑 一次看懂為什麼AI的開發這麼貴?

AI成本高昂的原因有二:AI模型愈來愈大,以及全球對AI服務的需求有賴新建更多資料中心來支持。路透
AI成本高昂的原因有二:AI模型愈來愈大,以及全球對AI服務的需求有賴新建更多資料中心來支持。路透

AI熱已持續將近18個月,一些最大型的科技公司證明,AI能驅動營收。但這也是個大錢坑。

微軟和Alphabet旗下Google的上季財報均顯示,企業客戶增加AI相關服務的支出,帶動其雲端運算的營收激增。Meta Platforms的技術貨幣化雖然落後其他公司,但也說AI有助提高用戶參與度和廣告定位。

三家公司斥資數百億美元開發AI以取得這些早期成果,他們還沒打算縮手。微軟25日表示,上季資本支出年增79%至140億美元,預計將因投資AI基設而「大幅增加」。Alphabet本季支出年增91%至120億美元,預期下半年將「達到或超過」該水準。Meta想積極投資AI研究和產品開發,預計今年資本支出高達350億至400億美元。這可嚇壞了投資人。

AI成本高昂的原因有二:AI模型愈來愈大,開發成本也就愈來愈高;而且,全球對AI服務的需求有賴新建更多資料中心來支持。

大型語言模型變更大

目前知名的AI產品都由大型語言模型驅動,其中包括OpenAIChatGPT。多家領先群倫的AI公司押注,要通往更複雜的AI,或能力超越人類的AI,這些大型語言模型必須變得更大,那需要取得更多數據、有更強的運算能力,並讓系統接受更長時間的訓練。

OpenAI競爭對手Anthropic執行長Dario Amodei在4月初受訪表示,市場上AI模型的訓練成本約1億美元,而「正在受訓的模型,以及今年稍晚或明年初推出的模型,成本接近10億美元」。他還說,2025和2026年時「成本會接近50億或100億美元」。

運算成本

成本大都與晶片有關。訓練大型語言模型,必須依賴能高速處理大量數據的GPU,這些晶片的供應主要來自輝達(Nvidia),不僅貴,而且還供不應求。

Nvidia的H100是訓練AI模型的黃金標準,售價約30,000美元,有些經銷商還賣數倍高的價錢。Meta執行長祖克柏曾說,今年底前要買進35萬顆H100,即使打了折扣,總額可能也上百億美元。

只租不買也成,但也不便宜。亞馬遜雲端運算部門將英特爾GPU叢集出租給客戶,每小時要價約6美元,出租Nvidia的H100叢集,每小時將近100美元。

Nvidia上月發布一款名為Blackwell的新型處理器,處理大型語言模型的速度快上數倍,定價在3萬到4萬美元間。訓練有1.8兆個參數的AI模型,差不多是GPT-4的規模,大約要8,000個Hopper的GPU,執行同樣任務只需2,000顆Blackwell。但速度改進可能被業界推動建立更大AI模型所抵消。

資料中心

買了晶片之後需有地方安置。Meta與亞馬遜、微軟和谷歌等最大型雲端運算公司,以及其他算力出租服務提供商正競相建置新的伺服器農場。這些建築往往必須客製,以容納一排排硬碟機架、處理器、冷卻系統、體積龐大的電氣設備和備用發電機。

根據研究機構Dell'Oro Group,今年各家公司建置資料中心的支出,將從2020年的1,930億美元狂飆到2,940億美元。很大程度與數位媒體服務有關,但有愈來愈多的支出被指定用於價格昂貴的Nvidia晶片,以及其他支撐AI榮景的專用硬體。

授權交易和人才

晶片和資料中心之外,一些AI公司還必須花上數百萬美元,從出版商那裡取得內容授權。

OpenAI已與多家歐洲出版商達成交易,將他們的新聞內容納入ChatGPT。這些交易的財務條款未披露,但彭博資訊曾報導,OpenAI同意向Politico和Business Insider的德國出版商Axel Springer支付數千萬歐元,以合法取用其內容。這家新創公司還與時代周刊、美國有線電視新聞頻道和福斯新聞網,進行內容授權談判。

除OpenAI外,大型科技公司也想方設法取得語言數據,以打造引人注目的AI工具。路透報導,谷歌與Reddit達成價值6,000萬美元的授權協議。另據紐約時報,Meta也在討論收購圖書出版商Simon & Schuster。

科技公司同時瘋狂搶奪AI人才。去年,Netflix一度刊廣告招AI產品經理,年薪是叫人咋舌的90萬美元。

較便宜替代方案

微軟最近推出了三種輕量級AI模型。僅管大型語言模型「仍將是解決多種複雜任務的黃金標準,但對於某些客戶和用例而言,較小的AI模型可能就夠了」。

其他公司,像是兩名前Google員工創辦的Sakana AI,也專注於小模型。

Forrester Research的AI分析師Rowan Curran說:「你並不需要一直開跑車。有時只需要一輛小貨車或皮卡」。

但目前而言,AI領域的傳統觀點是愈大愈好。這將付出高昂代價。

AI ChatGPT Google Meta OpenAI 晶片 輝達

相關新聞

得來速AI點餐點到「培根冰淇淋」?美國麥當勞受不了急喊卡

速食龍頭麥當勞(McDonald's)近期與IBM合作研發AI點餐功能,在全美100多間門市的得來速系統測試,但卻頻頻出...

美債殖利率進一步下滑 專家:債市獲利機會來啦

投資專家表示,美國通膨減緩走勢明朗化,將為美國債券投資人開啟獲利機會之門。

Fed耍「鷹」估今年只降息一次 投資人不予採信有道理

美國聯準會(Fed)12日發布最新利率預測,把今年預估降息次數從3月時的三次下修至僅僅一次,但美股收盤照樣創新高,美債殖...

美擬再限縮AI晶片輸陸 提高其建立AI系統難度

美國十一月將舉行總統大選,隨著選戰加溫,美中晶片戰情勢也跟著升高。彭博資訊報導,拜登政府考慮將人工智慧(AI)應用所需的...

輝達、微軟、蘋果等美股三強有多猛?總市值已超越整個陸股

隨著輝達成為歷來首家市值衝破3兆美元的晶片業者,微軟、輝達、蘋果這三檔股票的市值加總,已超越整體中國大陸股市。

TikTok遭駭客入侵!芭黎絲希爾頓、CNN等知名帳號皆遭攻擊

路透等多家外電報導,美國部分名人及企業的TikTok帳號受到網絡攻擊,包括希爾頓集團繼承人芭黎絲希爾頓(Paris Hi...

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。