快訊

華航「台灣意象」777貨機載運美捐疫苗 背後原因其實很單純

防打疫苗猝死有撇步 長輩3大疑問一次解答

NVIDIA更新MLPerf 1.0版本 強調GPU用於人工智慧推論加速仍是最佳選擇

過去針對人工智慧訓練及推論效能表現,NVIDIA已經與學術界、研究實驗室與業界合作,提出可針對硬體、軟體及服務在人工智慧訓練與推論效能表現提供公允量化評估的計算方式MLPerf之後,目前也確定推論效能評估部分已從先前的0.7版本進展至1.0版本,藉此對應詮釋更貼近真實的人工智慧推論效能。

在MLPerf推論效能評估1.0版本中,將可對應雲端或邊緣端的人工智慧推論運算效能,藉由不同使用情境,配合諸如DLRM、BERT、RNN-T、ResNet-50、Single Shot Detector等網路模型,針對不同人工智慧應用的推論效能進行評估。

相比先前推出的0.7版本,NVIDIA表示在短短半年內使推論加速效率提升幅度達45%。

而依照NVIDIA說明,藉由旗下Ampere顯示架構設計的A100 GPU,對比市場諸如Intel Cooper Lake架構的Xeon處理器,或是即將進入市場的Ice Lake架構Xeon處理器,以及賽靈思以FPGA形式打造的VCK5000處理器與Qualcomm日前推出伺服器等級處理器AI 100,幾乎提供高達314倍的推論加速效能,即便在未連網情況下也能有顯著加速效能表現。

就算是日前在GTC 2021期間揭曉針對工作站打造的A10 GPU,或是對應一般伺服器使用的A30 GPU,同樣也比CPU形式的推論加速效能更高。

其中,雖然Qualcomm推出的AI 100處理器也能在影像分類、物件識別有明顯加速效果,但在醫療用影像識別、推薦系統、語音辨識與自然語言處理效率表現,仍無法與NVIDIA採GPU加速的設計比擬,而佈署於邊緣運算的加速效能同樣也是由GPU取得較明顯優勢。

即便Qualcomm AI 100是以耗電更低的Arm架構打造,但是藉由GPU加速的推論效能依然能以更低電力損耗,發揮更高推論加速效能。

NVIDIA更強調藉由多執行個體GPU (MIG)虛擬化應用,在A100 GPU模擬為7組獨立GPU運作,並且個別執行不同推論運算加速時,依然可以維持高達98%效能表現,意味可透過單組A100 GPU同時對應更多人工智慧推論加速。

在Triton推論伺服器相同軟體框架下,NVIDIA更強調可簡化人工智慧推論加速佈署應用流程,並且可依照需求隨時增加運算規模。

目前包含阿里巴巴、Dell EMC、技嘉、HPE、富士通、聯想、Supermicro、浪潮 (Inspur)採用NVIDIA人工智慧推論加速解決方案。

透過GPU協助推論加速運算,奇異醫療藉此在每年1.45億名患者中主動判斷是否罹患心臟疾病,或是在Pinterest中超過3000億筆資料中挖掘熱門趨勢,T-Mobile則藉此打造人工智慧線上客服,微軟則藉此精進旗下拼字檢查功能Grammer服務,美國郵政則以此協助即時分析每年超過70億個郵件包裹。

至於微信則將GPU加速推論效果應用在旗下智慧搜尋功能,美國運通 (American Express)則以此強化詐欺行為即時偵測效果。

《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》

AI NVIDIA

延伸閱讀

iMac機身更薄了!換上M1處理器加入七款多彩配色 4月30日開放銷售

搭載M1處理器 Mac終於可以完整使用Windows 10 on Arm作業系統

為什麼推出「Grace」CPU 對於NVIDIA而言至關重要?

搶不到顯卡沒關係 超微推首款內建GPU的Ryzen 5000 CPU

相關新聞

報導指稱三星年度開發者大會將恢復實體形式舉辦 時間選在10月或11月

去年因為疫情影響選擇取消舉辦的三星開發者大會 (SDC,Samsung Developer Conference),今年似乎有可能恢復以實體活動形式舉辦,並且將在10月-11月期間舉辦。

蘋果計畫在WWDC 2021期間 舉辦Apple Music相關特別活動

日前宣佈將在Apple Music服務加入無損音訊,並且開放使用杜比全景聲技術的空間音訊功能後,蘋果隨即在Apple Music服務頁面預告將在美國西岸時間6月7日中午12點 (台灣時間6月8日凌晨3點)舉辦特別活動,顯然準備讓空間音訊功能正式上線提供使用。

蘋果開發者大會於8日凌晨登場 有望推出iOS 15和新款MacBook Pro

台灣時間8日凌晨一點Apple(蘋果)的全球開發者大會(WWDC)正式舉行,有外媒分析蘋果將推出iOS 15、watchOS8等,以及Safari、健康、地圖和 iMessage 都將有重大更新。

台人進入「自主封城」?移動趨勢圖曝光 唯獨這裡人潮不減反增

因應新冠肺炎疫情,Google和蘋果都推出了「移動趨勢報告」,以便觀察各地區的人流移動狀況。根據最新釋出的資料可看出,在大眾運輸部分人潮急遽下降少了約78%,而唯一人潮變多的地方正好就是住宅區,明顯看出民眾減少外出心態,以及「WFH」在家工作的趨勢。

蘋果WWDC21全球開發者大會 6/8凌晨登場

蘋果(Apple)今天揭曉年度全球開發者大會(WWDC21)的活動內容 ,包括keynote發表會與Platforms ...

全線上形式舉辦的E3 2021官網、App正式上線,預計6月12日正式開展

E3 2021主辦單位美國娛樂軟體協會 (ESA)稍早公布此次以全線上形式呈現的展會活動網站,同時也推出官方活動App,讓使用者能直接透過連網裝置、手機參與此次展會活動。

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。