Mellanox 網絡計算“分層聚合和歸約協議”(SHARP) 技術與 NVIDIA 聚合通信函數庫 (NCCL) 結合，為人工智能帶來性能突破
2019 年 3 月 19 日, Mellanox Technologies, Ltd.(納斯達克股票代碼：MLNX)是面向數據中心服務器和存儲系統的高性能、端到端互連解決方案的供應商，該公司今天宣布，其采用“可擴展分層聚合和歸約協議”(SHARP) 技術的 HDR 200G InfiniBand 創造了新的性能記錄，使深度學習操作性能提高了一倍。Mellanox 網絡計算 SHARP技術與 NVIDIA V100 Tensor Core GPU 技術以及聚合通信函數庫 (NCCL) 的結合，為深度學習和人工智能應用帶來了的效率和可擴展性。
将先進的 NVIDIA GPU、Mellanox 的 InfiniBand網絡、GPUDirect RDMA技術 和 NCCL通信庫相結合以訓練神經網絡，已成為擴展深度學習框架(如 Caffe、Caffe2、Chainer、MXNet、TensorFlow 和 PyTorch)的事實标準。借助 Mellanox SHARP 技術和 HDR InfiniBand網絡,可以卸載并加速深度學習訓練的數據聚合操作，從而将性能提高至兩倍。
通過與 NVIDIA 合作，并在 Mellanox 的性能實驗室進行測試驗證，使用 Mellanox HDR InfiniBand Quantum 交換機連接 4 台系統主機，每台主機使用 8 個采用 NVLink 互連技術的 NVIDIA V100 Tensor Core GPU 和一片ConnectX-6 HDR 網卡，并通過将 SHARP 的本地流聚合功能與 NVIDIA 的 NCCL 2.4 通信庫(該庫現在可以充分利用Mellanox 網絡提供的雙向帶寬)集成，實現了 19.6Gb/s 的有效歸約帶寬。在使用相同硬件配置的情況下，與NVIDIA 當前基于樹型通信結構的實現相比，SHARP實現了兩倍的帶寬性能。
在更常見的系統配置中，如果每個主機系統中有4 個HCA卡用于各種工作的負載均衡，其中 SHARP 和 NCCL 的初始計算将會産生70.3GB/s的流量。對于更高密度的GPU系統，如 NVIDIA DGX-2，其每個系統節點中有 16 個采用 NVLink 技術的 NVIDIA V100 Tensor Core GPU，Mellanox的網絡計算功能和全雙向帶寬更将被用的淋漓盡緻。
Mellanox Technologies 市場副總裁 Gilad Shainer 表示：“我們與 NVIDIA 的長期合作為我們帶來了強大的解決方案，這些方案充分利用 Mellanox InfiniBand網絡的卓越性能，包括 GPUDirect RDMA技術，以及集成在NCCL中的網絡計算技術，為人工智能應用提供了兩倍于以往的性能。HDR InfiniBand網絡計算加速引擎(包括 SHARP 技術)為 HPC 和人工智能工作負載提供了優異的性能和可擴展性。”
NVIDIA 副總裁兼加速計算總經理 Ian Buck 表示：“Mellanox 的解決方案和我們的開源聚合通信函數庫 NCCL的整合，極大地增強了 NVIDIA 無與倫比的 CUDA-X 加速庫的性能。我們攜手合作，共同提供完整解決方案，确保數據中心内要求最為苛刻的人工智能應用能夠從性能和擴展效率中受益。”
輔助資源：
● 深入了解 Mellanox SHARP
● 深入了解 Mellanox Quantum HDR 200Gb/s InfiniBand 智能交換機
● 在 Twitter、Facebook、Google+、領英和 YouTube 上關注 Mellanox。
● 加入 Mellanox 社區
關于 Mellanox
Mellanox公司的英文全稱是Mellanox Technologies(中文名：邁絡思)，是一家在全球範圍内為服務器和存儲提供端到端InfiniBand和以太網互聯解決方案的領軍企業。Mellanox互連解決方案通過低延遲、高吞吐量的強大性能，可以極大的提升數據中心效率，在應用和系統之間快速的傳遞數據，提升系統可用性。Mellanox為業内提供了加快内部設備互聯的技術和産品，包括網卡、交換機、軟件和芯片，這些産品都可以加速應用的執行，并化的提升HPC、企業數據中心、Web2.0、雲計算、存儲以及金融服務的效率。
注：Mellanox、ConnectX-6、Mellanox Quantum、Mellanox 可擴展分層聚合和歸約協議 (SHARP) 以及 Mellanox 徽标是 Mellanox Technologies, Ltd. 的注冊商标。所有其他商标均為其各自所有者的資産。
免責聲明：本文僅代表作者個人觀點，與每日科技網無關。其原創性以及文中陳述文字和内容未經本站證實，對本文以及其中全部或者部分内容、文字的真實性、完整性、及時性本站不作任何保證或承諾，請讀者僅作參考，并請自行核實相關内容。
本網站有部分内容均轉載自其它媒體，轉載目的在于傳遞更多信息，并不代表本網贊同其觀點和對其真實性負責，若因作品内容、知識産權、版權和其他問題，請及時提供相關證明等材料并與我們聯系，本網站将在規定時間内給予删除等相關處理.
