最新測試:輝達Blackwell訓練效能躍進 所需數量更少

最新測試數據顯示顯示,美國人工智慧(AI)晶片巨擘輝達(Nvidia)最新款晶片Blackwell訓練AI系統的效能有所進步,而且訓練大型語言模型(LLM)所需要的晶片數量也大幅減少。
發布AI系統基準效能測試的非營利組織MLCommons,釋出以輝達和超微(AMD)新晶片訓練AI系統的結果,這也是該組織首度釋出各款晶片在訓練Llama 3.1 405B等LLM時的表現。Llama 3.1 405B是Meta釋出的開源碼模型,參數夠大,能讓外界窺見這些晶片在處理伊些最複雜訓練任務時的表現。
輝達及其夥伴迄今是唯一提交訓練這類模型的數據業者,顯示輝達每組Blackwell的處理速度最多比上一代的Hopper晶片快一倍。在輝達Blackwell表現最快的測試中,2,496組Blackwell只花27分鐘就完成訓練測試,而輝達上一代晶片若要達成相同時間,需要三倍以上的晶片數量。
延伸閱讀
贊助廣告
商品推薦
udn討論區
共 0 則留言
規範
- 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
- 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
- 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
- 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
登(加)入 udn 會員不只享專屬優惠,現在再送 LINE POINTS 5 點!即日起至 11/20,不論新朋友或老朋友,輕鬆加入就有獎 ( 每日限量 1,000 組,不定時放送 ),馬上入手點數,讓生活多一點開心回饋。










FB留言