北京時間3月28日,英偉達(NVIDIA)在美國加州聖何塞召開GPU技術大會(GTC)。本屆大會上,深度學習又一次不出意外地成為“主角”,圍繞這一領域,掌門人黃仁勳先生介紹了一系列重要産品及更新的發布。此外,在計算機圖形、專業可視化、自動駕駛、物聯網、GPU雲等方面,英偉達也有各項發布。本文中,我們主要關注深度學習:
世界最大GPU:DGX-2在手“虐神仙”
“先有仁勳後有天,顯卡在手虐神仙。”這是網友對英偉達CEO黃仁勳的一句調侃,恰到好處地反映了他的行事風格。這樣一個“狂人”,常常能給我們帶來巨大的沖擊。今天發布的NVIDIA DGX-2就是其中之一。
NVIDIA DGX-2 是英偉達的第二代 DGX,黃仁勳表示:“這是全球最大的GPU。”(嚴格來說它是一個計算系統。)重量超300斤,有汽車後備箱那麼大,“沒有人能把它舉起來”。DGX-2問世,黃教主向稱霸武林的目标又近了一步。
顯然,這款産品的特色并不止于“大”。它是英偉達在深度學習計算領域取得的重大突破,是首款能夠提供每秒2千萬億次浮點運算能力的單點服務器,也是首款采用 NVSwitch(本次大會另一項重要發布,稍後我們會介紹)的系統,其中采用的 16 個 GPU 均共享統一的内存空間。DGX-2 具有 300 台服務器的深度學習處理能力,占用15個數據中心機架空間,而體積則縮小60倍,能效提升18倍。
據悉,DGX-2可提供的深度學習性能為上代DGX-1(去年9月發布)的約10倍。僅僅半年左右的時間,這一提升實在令人驚歎。“狂人”黃仁勳,狂得有理。
NVIDIA DGX-2售價為 39.9 萬美元(約250萬人民币),将于今年第三季度正式開放購買。
新一代革命性高速互聯技術發布,NVLink說再見?
談到CPU-GPU、GPU-GPU之間的高速互聯,大家首要提的就是NVLink,不過這種現狀可能将要發生改變了。此次大會上,NVIDIA NVSwitch作為一個革命性的全新 GPU 互聯結構,與大家見面。
NVSwitch在NVLink的基礎上進一步進行了擴展創新,它的帶寬比最好的 PCIe 交換機高出 5 倍,它可使多達 16 個 Tesla V100 GPU 同時以 2.4 TB /秒的速度進行通信,這一速度創下曆史新高,也讓開發者能夠采用更多的超級互聯GPU來構建更高級的系統,進而靈活地連接任何基于NVLink的GPU的拓撲結構。我們上面所說的DGX-2,就得益于NVSwitch的超級互聯特性。
NVSwitch的優勢是顯而易見的,其成熟程度我們尚未可知。不過,相信很多朋友看到它的第一反應就是将取代NVLink。難道我們這麼快就要對NVLink說再見了嗎?
Tesla V100内存翻倍,掀起新一輪小規模計算叠代
英偉達平台在各大雲服務提供商和服務器制造商中已得到廣泛應用,最強大的數據中心GPU——NVIDIA Tesla V100,也得到了重大提升:2倍内存。如今Tesla V100 GPU配備了32GB内存,将助力數據科學家對更深度、更大規模的深度學習模型進行訓練,且比以往都更加精确。與之前的16GB版本相比,它還能将内存受限的HPC應用性能提升高達50%。
Tesla V100 32GB GPU目前可用于所有 NVIDIA DGX 系統。此外,各大計算系統制造商Cray、HPE、IBM、聯想、Supermicro和Tyan也宣布将于第二季度内推出各自全新的Tesla V100 32GB系統。Oracle雲也宣布計劃将于今年下半年在雲端提供Tesla V100 32GB。
種種迹象表明,Tesla V100的提升,可能将掀起新一輪數據中心GPU計算平台叠代。當然,客觀來講其規模可能不會太大,這要看企業和組織的實際需求。
軟件堆棧更新,推動計算性能提升
英偉達深度學習和 HPC 軟件堆棧的更新面向開發者社群免費提供。據了解,當前開發者社群共有超過 82 萬名注冊用戶。此次更新包括新版本的 NVIDIA CUDA、TensorRT、NCCL和cuDNN,以及面向機器人的全新 Isaac軟件開發套件。此外,通過與領先雲服務提供商的密切合作,各大主流深度學習框架都在持續優化,以充分利用英偉達的GPU計算平台。
今天發布的TensorRT 4推理軟件,與谷歌的TensorFlow框架深度融合。據了解,針對計算機視覺、神經網絡機器翻譯、自動語音識别、語音合成與推薦系統等常見應用,相比CPU,該軟件最高可将深度學習推理的速度加快190倍。
另外,最受歡迎的語音識别框架Kaldi現也已針對GPU進行了優化。
深度學習計算≈英偉達
黃教主雷厲風行的個性顯然對英偉達也産生了不小的影響,從最初發現GPU在深度學習計算方面的潛力,到如今幾乎“無GPU不深度學習”的行業現狀,英偉達毅然向人工智能轉型,投入大量資源用以研發,不斷推陳出新,極大地推動了GPU在人工智能計算的應用,同時更推動了人工智能行業的發展。
本屆GTC上關于深度學習的各項重要發布,也再次向我們證明了這一點。基于此,說一句“深度學習計算≈英偉達”不算過分吧。
,更多精彩资讯请关注tft每日頭條,我们将持续为您更新最新资讯!