快訊

高球/7人加賽爭銅!東奧表現倒吃甘蔗有望奪牌 潘政琮自比麟洋配

金牌概念股? 這幾檔股票逗趣諧音「戴資穎冠軍」

NVIDIA更新MLPerf 1.0版本 強調GPU用於人工智慧推論加速仍是最佳選擇

過去針對人工智慧訓練及推論效能表現,NVIDIA已經與學術界、研究實驗室與業界合作,提出可針對硬體、軟體及服務在人工智慧訓練與推論效能表現提供公允量化評估的計算方式MLPerf之後,目前也確定推論效能評估部分已從先前的0.7版本進展至1.0版本,藉此對應詮釋更貼近真實的人工智慧推論效能。

在MLPerf推論效能評估1.0版本中,將可對應雲端或邊緣端的人工智慧推論運算效能,藉由不同使用情境,配合諸如DLRM、BERT、RNN-T、ResNet-50、Single Shot Detector等網路模型,針對不同人工智慧應用的推論效能進行評估。

相比先前推出的0.7版本,NVIDIA表示在短短半年內使推論加速效率提升幅度達45%。

而依照NVIDIA說明,藉由旗下Ampere顯示架構設計的A100 GPU,對比市場諸如Intel Cooper Lake架構的Xeon處理器,或是即將進入市場的Ice Lake架構Xeon處理器,以及賽靈思以FPGA形式打造的VCK5000處理器與Qualcomm日前推出伺服器等級處理器AI 100,幾乎提供高達314倍的推論加速效能,即便在未連網情況下也能有顯著加速效能表現。

就算是日前在GTC 2021期間揭曉針對工作站打造的A10 GPU,或是對應一般伺服器使用的A30 GPU,同樣也比CPU形式的推論加速效能更高。

其中,雖然Qualcomm推出的AI 100處理器也能在影像分類、物件識別有明顯加速效果,但在醫療用影像識別、推薦系統、語音辨識與自然語言處理效率表現,仍無法與NVIDIA採GPU加速的設計比擬,而佈署於邊緣運算的加速效能同樣也是由GPU取得較明顯優勢。

即便Qualcomm AI 100是以耗電更低的Arm架構打造,但是藉由GPU加速的推論效能依然能以更低電力損耗,發揮更高推論加速效能。

NVIDIA更強調藉由多執行個體GPU (MIG)虛擬化應用,在A100 GPU模擬為7組獨立GPU運作,並且個別執行不同推論運算加速時,依然可以維持高達98%效能表現,意味可透過單組A100 GPU同時對應更多人工智慧推論加速。

在Triton推論伺服器相同軟體框架下,NVIDIA更強調可簡化人工智慧推論加速佈署應用流程,並且可依照需求隨時增加運算規模。

目前包含阿里巴巴、Dell EMC、技嘉、HPE、富士通、聯想、Supermicro、浪潮 (Inspur)採用NVIDIA人工智慧推論加速解決方案。

透過GPU協助推論加速運算,奇異醫療藉此在每年1.45億名患者中主動判斷是否罹患心臟疾病,或是在Pinterest中超過3000億筆資料中挖掘熱門趨勢,T-Mobile則藉此打造人工智慧線上客服,微軟則藉此精進旗下拼字檢查功能Grammer服務,美國郵政則以此協助即時分析每年超過70億個郵件包裹。

至於微信則將GPU加速推論效果應用在旗下智慧搜尋功能,美國運通 (American Express)則以此強化詐欺行為即時偵測效果。

《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》

AI NVIDIA

延伸閱讀

iMac機身更薄了!換上M1處理器加入七款多彩配色 4月30日開放銷售

搭載M1處理器 Mac終於可以完整使用Windows 10 on Arm作業系統

為什麼推出「Grace」CPU 對於NVIDIA而言至關重要?

搶不到顯卡沒關係 超微推首款內建GPU的Ryzen 5000 CPU

相關新聞

PTT站方公告「解禁」全面開放註冊 新增手機認證

國內知名BBS社群平台批踢踢實業坊(PTT)先前曾因帳號註冊浮濫,站方一度暫停受理新帳號申請。今天站方公告即日起全面開放...

傳鴻海可能與蘋果合作 在美國開發Apple Car電池

財經網科技引述《科創板日報》消息指出,蘋果目前更傾向於在美國本土生產Apple Car電池,而不是從其他國家的供應商那裡...

維珍銀河這次太空旅行「不算數」?一文看懂與Blue Origin機組、任務差在哪

維珍集團旗下太空旅遊公司維珍銀河(Virgin Galactic)在台灣時間 7 月 11 晚上 10 點 10分成功將創辦人布蘭森(Richard Branson)與搭乘自家太空船「團結號」(VSS Unity)送上太空到達無重力狀態,並於一個多小時後安全回到地表。

中國集體封殺LGBT社團帳號惹議 美表關切

多個屬於中國主要大學LGBTQ人權社團的社群帳號日前遭中國熱門應用程式微信(WeChat)封殺,引發各界對目標審查的擔憂...

世界行動通訊大會將聚3萬人 現場一天為1萬人做篩檢

移動通訊界的大人物紛紛湧入西班牙的巴塞隆那,參加周一開始、為期三天的世界行動通訊大會(MWC),今年的必備技術包括;新冠...

微軟正式揭曉Windows 11!工作列設計大幅改變 今年底開放升級

先前已經有諸多消息曝光,甚至也有可實際安裝使用的早期ISO檔案在網路上流傳後,微軟終於在此次線上活動確認新版作業系統名稱確定就是Windows 11,並且採用導入Fluent Design風格與圓角視窗設計介面,同時加入諸多Windows 10X操作介面。

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。