快訊

日本「儒商」傳奇:直衝青天的大和資本主義之父

NVIDIA更新MLPerf 1.0版本 強調GPU用於人工智慧推論加速仍是最佳選擇

過去針對人工智慧訓練及推論效能表現,NVIDIA已經與學術界、研究實驗室與業界合作,提出可針對硬體、軟體及服務在人工智慧訓練與推論效能表現提供公允量化評估的計算方式MLPerf之後,目前也確定推論效能評估部分已從先前的0.7版本進展至1.0版本,藉此對應詮釋更貼近真實的人工智慧推論效能。

在MLPerf推論效能評估1.0版本中,將可對應雲端或邊緣端的人工智慧推論運算效能,藉由不同使用情境,配合諸如DLRM、BERT、RNN-T、ResNet-50、Single Shot Detector等網路模型,針對不同人工智慧應用的推論效能進行評估。

相比先前推出的0.7版本,NVIDIA表示在短短半年內使推論加速效率提升幅度達45%。

而依照NVIDIA說明,藉由旗下Ampere顯示架構設計的A100 GPU,對比市場諸如Intel Cooper Lake架構的Xeon處理器,或是即將進入市場的Ice Lake架構Xeon處理器,以及賽靈思以FPGA形式打造的VCK5000處理器與Qualcomm日前推出伺服器等級處理器AI 100,幾乎提供高達314倍的推論加速效能,即便在未連網情況下也能有顯著加速效能表現。

就算是日前在GTC 2021期間揭曉針對工作站打造的A10 GPU,或是對應一般伺服器使用的A30 GPU,同樣也比CPU形式的推論加速效能更高。

其中,雖然Qualcomm推出的AI 100處理器也能在影像分類、物件識別有明顯加速效果,但在醫療用影像識別、推薦系統、語音辨識與自然語言處理效率表現,仍無法與NVIDIA採GPU加速的設計比擬,而佈署於邊緣運算的加速效能同樣也是由GPU取得較明顯優勢。

即便Qualcomm AI 100是以耗電更低的Arm架構打造,但是藉由GPU加速的推論效能依然能以更低電力損耗,發揮更高推論加速效能。

NVIDIA更強調藉由多執行個體GPU (MIG)虛擬化應用,在A100 GPU模擬為7組獨立GPU運作,並且個別執行不同推論運算加速時,依然可以維持高達98%效能表現,意味可透過單組A100 GPU同時對應更多人工智慧推論加速。

在Triton推論伺服器相同軟體框架下,NVIDIA更強調可簡化人工智慧推論加速佈署應用流程,並且可依照需求隨時增加運算規模。

目前包含阿里巴巴、Dell EMC、技嘉、HPE、富士通、聯想、Supermicro、浪潮 (Inspur)採用NVIDIA人工智慧推論加速解決方案。

透過GPU協助推論加速運算,奇異醫療藉此在每年1.45億名患者中主動判斷是否罹患心臟疾病,或是在Pinterest中超過3000億筆資料中挖掘熱門趨勢,T-Mobile則藉此打造人工智慧線上客服,微軟則藉此精進旗下拼字檢查功能Grammer服務,美國郵政則以此協助即時分析每年超過70億個郵件包裹。

至於微信則將GPU加速推論效果應用在旗下智慧搜尋功能,美國運通 (American Express)則以此強化詐欺行為即時偵測效果。

《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》

AI NVIDIA

延伸閱讀

iMac機身更薄了!換上M1處理器加入七款多彩配色 4月30日開放銷售

搭載M1處理器 Mac終於可以完整使用Windows 10 on Arm作業系統

為什麼推出「Grace」CPU 對於NVIDIA而言至關重要?

搶不到顯卡沒關係 超微推首款內建GPU的Ryzen 5000 CPU

相關新聞

LINE台灣辦公室搬新家 4公尺熊大、專業攝影棚太夢幻

LINE上線10周年功能越來越強大,各種數位創新服務幕後的推手們每天上班的地方當然也不能太遜色!LINE台灣全新辦公空間...

老司機的勝利!接受檢察官條件加強審核後 SWAG「宣告復活」

台灣知名成人影音直播平台 SWAG 四月初曾遭警方查緝,網站也遭下架,不過昨天晚上宣告正式「復活」重新開張!

果粉注意!iPhone點IG這動態秒當機 網曝關鍵原因

網路上暗藏多種病毒,若不小心點選到惡意網址,就可能造成個資被駭。近日網上流傳一組Instagram某帳號的精選動態,只要是iPhone點選該動態,手機就會立刻當機,必須重新開機才能解除當機,網友猜測「可能是蘋果系統不相容這個字體導致當機」。

多數員工在家工作 Google母公司一年約節省超過10億美元開銷

依照Alphabet提供數據顯示,今年第一季在公司宣傳、差旅、娛樂等項目支出相比去年同期減少約2.68億美元,主因在於受到疫情影響使得多數員工在家彈性工作,同時也大幅減少差旅比例,原本對外舉辦活動與宣傳項目也明顯減少,因此若放大至全年來看的話,至少將會節省超過10億美元經費。

傳Verizon考慮出售Yahoo、AOL等媒體資產 交易金額曝光

Verizon 在 2017 年花 45 億美元大採購完成收購 Yahoo 後,現在很可能又要將其脫手了。

CES、東京車展 國際大展實體展相繼取消…線上展覽如何獨挑大樑?

疫情發生後,全球商業衝擊一直是最熱的話題。年初美國拉斯維加斯的 CES 消費性電子展 (Consumer Electronics Show) 才破天荒宣布實體展停辦一年,疫情復燃的東京,也影響了東京車展 (TMS, Tokyo Motor Show) 跟著被迫取消,當局決議以防疫為重,有更多策展單位選擇單走線上展覽方案。

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。