快訊

「我們的老師被砍傷!」泌尿科名醫江漢聲診間遭攻擊 醫界譴責暴力

整理包/鳳凰颱風來襲…22縣市都宣布了!全台停班課資訊一覽

鳳凰颱風持續接近!宜蘭2天雨量已累積1041毫米 估明深夜提前出海

最新測試:輝達Blackwell訓練效能躍進 所需數量更少

輝達(Nvidia)最新款晶片Blackwell訓練AI系統的效能有所進步,而且訓練大型語言模型(LLM)所需要的晶片數量也大幅減少。歐新社
輝達(Nvidia)最新款晶片Blackwell訓練AI系統的效能有所進步,而且訓練大型語言模型(LLM)所需要的晶片數量也大幅減少。歐新社

最新測試數據顯示顯示,美國人工智慧(AI)晶片巨擘輝達(Nvidia)最新款晶片Blackwell訓練AI系統的效能有所進步,而且訓練大型語言模型(LLM)所需要的晶片數量也大幅減少。

發布AI系統基準效能測試的非營利組織MLCommons,釋出以輝達和超微(AMD)新晶片訓練AI系統的結果,這也是該組織首度釋出各款晶片在訓練Llama 3.1 405B等LLM時的表現。Llama 3.1 405B是Meta釋出的開源碼模型,參數夠大,能讓外界窺見這些晶片在處理伊些最複雜訓練任務時的表現。

輝達及其夥伴迄今是唯一提交訓練這類模型的數據業者,顯示輝達每組Blackwell的處理速度最多比上一代的Hopper晶片快一倍。在輝達Blackwell表現最快的測試中,2,496組Blackwell只花27分鐘就完成訓練測試,而輝達上一代晶片若要達成相同時間,需要三倍以上的晶片數量。

語言 美國
×

LINE POINTS 限時送,享受日常小確幸

登(加)入 udn 會員不只享專屬優惠,現在再送 LINE POINTS 5 點!即日起至 11/20,不論新朋友或老朋友,輕鬆加入就有獎 ( 每日限量 1,000 組,不定時放送 ),馬上入手點數,讓生活多一點開心回饋。

延伸閱讀

輝達形容AI需求「大爆發」 透露全球正在打造100座AI工廠

緯創5月營收 衝2,000億…法人預期6月、Q2再締新猷

輝達、微軟競逐市值王 戰況激烈

博通推新品 台積電助攻

相關新聞

富可敵國!馬斯克「兆元」薪酬是孟加拉GDP兩倍 全球只輸20國

電動車大廠特斯拉6日舉行年度股東大會,批准可望讓執行長馬斯克成為全球首位「兆元富豪」的薪酬方案。路透報導,這項方案的價值...

有望成全球首位「兆元富豪」 特斯拉股東批准馬斯克天價薪酬方案 

電動車大廠特斯拉6日舉行年度股東大會,超過75%的投票股份支持一項可能讓執行長馬斯克成為全球首位「兆元富豪」的薪酬方案。...

全球航空業亮紅燈?1個隱形風險恐釀飛安危機

過去20年中,有21%至23%重大航空事故調查曾指出,疲勞是導致空難的可能原因之一。而對於空服員而言,疲勞雖不像對飛行員那樣直接影響飛行控制,但對客艙安全至關重要。

黃仁勳憶與韓國網咖淵源 龍山商場貼炸雞逗趣照

輝達(NVIDIA)執行長黃仁勳在APEC企業領袖高峰會演說提到,「如果沒有韓國網咖,就沒有現在的NVIDIA。」龍山電...

投資非洲注意!高速成長下的「都市貧困陷阱」

人口密度也放大了負面外部性:交通壅塞、犯罪、傳染病,都對都市治理帶來了很大的挑戰。

歐洲「最死抱黃金國家」!金融風暴也不賣 現擁逾9兆元資產

義大利近年國債高築、銀行體系動盪不安,如今卻因央行龐大的黃金儲備隨國際金價創新高而發「意外財」。根據世界黃金協會資料,截...

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。