如何通过网络计算节省CPU周期 浅谈BlueField DPU的意义

超级计算机用于建模和模拟科学计算中最复杂的过程，通常是为了洞察新发现，否则这些新发现在物理上是不切实际的或不可能演示的。

NVIDIA BlueField DPU（数据处理器）正在将高性能计算（HPC）资源转化为更高效的系统，同时在从数学建模和分子动力学到天气预报、气候研究，甚至可再生能源的广泛科学研究中加速解决问题。  

  BlueField 已经在云网络、网络安全、通信和边缘计算领域产生了显著影响。此外，在高性能计算的多个领域引发了应用程序性能和系统效率方面的创新。   NVIDIA BlueField-3 提供了强大的计算能力，其基于多个 Arm AArch64 内核、多线程数据路径加速器、集成的 NVIDIA ConnectX-7 400Gb/s 网络 ，以及 I/O 路径中的各种可编程加速引擎。它配备了双 DDR 6500MT / s DRAM 控制器，并配有高达 32 GB 的板载内存。BlueField-3 是第三代片上数据中心基础设施，可实现从云到核心数据中心再到边缘的、高效且强大的软件定义、硬件加速基础设施。   那么，这一切对高性能计算意味着什么呢？  

提高 HPC 应用程序性能和可扩展性

HPC 就是为了提高性能和可扩展性。近二十年来，InfiniBand 网络在性能和应用程序可扩展性方面一直处于领先地位，这有几个原因。   从高层次来看，InfiniBand 只是最有效的数据移动方式：直接数据放置。在数据从网络接口通过系统到达需要它的实际应用程序时，无需涉及 CPU 或操作系统，也无需制作数据的多个副本。   如果 InfiniBand 已经如此高效，BlueField 会带来什么好处？   InfiniBand 多年来一直在解决的关键挑战之一是将网络通信开销从 CPU 移开，使其能够将时间集中在最擅长的事情上：应用程序计算和分支代码。   当今主流服务器中的 CPU 过于通用，在数百或数千个与实际计算几乎无关的进程中共享其计算周期、时间和资源。   BlueField 通过卸载、加速和隔离广泛的高级网络、存储和安全服务，为超级计算带来了前所未有的创新和效率。  

为什么人工智能时代带来了

对 BlueField DPU 的需求

人工智能研究领域作为一门学科于 1956 年成立。甚至在那之前的十年，科学家们就开始讨论创造人工大脑的可能性。随着现代计算机硬件和软件的发展，这些概念很晚才成为现实。   2006 年，NVIDIA 推出了业界首个针对 GPU 的 C 编译器开发环境 CUDA ，解决复杂计算问题的速度比传统方法快 100 倍。今天，人工智能成果丰硕，几乎推动了科学研究的每个领域，改变了我们的生活，塑造了工业格局。   同样， 2006 年年中推出了用于非阻塞集合操作的首个提案。为消息传递接口（MPI）的集合组通信功能而提出的非阻塞接口在理论上肯定是成效斐然的。然而，它并没有在许多应用程序中实现。也许这是因为，在引入 DPU 之前，无法实现全部好处。   今天，随着 BlueField-3 的问世，这项技术已经提供了创新、性能和效率所需的基本要素。为了提高应用程序性能和可伸缩性，并消除操作系统抖动的影响，非阻塞集合操作重新引起了人们的兴趣。   科学计算还有几个领域，包括早期的例子，BlueField 正在展示其如何将 HPC 转化为高效和可持续的计算。  

通过网络计算节省 CPU 周期

NVIDIA 的 Scalable Hierarchical Aggregation and Reduction Protocol（SHARP）技术通过将许多阻塞集体操作从 CPU 卸载到交换网络，且无需在端点之间多次发送数据，从而提高了 MPI 操作的性能。这种创新的方法减少了到达聚合节点时穿越网络的数据量，并大大减少了 MPI 操作时间。   BlueField 通过利用其 Arm 内核实现非阻塞操作，扩展了额外的网络计算能力。这使系统主机 CPU 能够执行峰值重叠计算。   图 2 显示了一个使用 MVAPICH2- DPU 库的示例，该库正在进行优化，以充分利用 BlueField 的全部潜力。它显示了提取主机上发生的计算与 MPI_Ialltoall 通信之间的峰值重叠的能力。  

适用于 HPC 工作负载的计算存储

计算存储（或称为存储计算）为传统存储设备带来了 HPC 功能。在计算存储中，您可以在存储设备内或旁边执行选定的计算任务，从而减轻主机处理负担并减少数据移动。BlueField 提供在单卡上结合存储和网络计算的能力。   BlueField 使存储软件堆栈能够从计算节点卸载，同时还可作为网络架构附加 NVMe 控制器，能够加速关键存储功能，如压缩、校验和计算以及奇偶校验生成。此类服务在并行文件系统中提供。   整个存储系统堆栈在 Linux 内核中透明卸载，同时在 NVMe 目标端由 NVIDIA DOCA 简单实现标准存储功能。   新一代开放存储架构为加速、隔离和保护高性能存储系统提供了一种新的范例。该系统采用硬件和软件协同设计，使 DPU 对用户来说非常高效和透明。   文件系统的加速意味着提高存储系统中关键功能的性能，而存储系统性能是基于深入学习的科学探究的关键促成因素。   将存储客户端和服务器完全卸载到 DPU 的能力带来以前无法实现的安全和性能隔离级别。关键数据平面和控制平面功能移动到 DPU 上的单独域。这样可以免除服务器 CPU 的工作负担，并在 CPU 或其软件受损的情况下保护功能。  

NVIDIA DOCA 软件框架

NVIDIA DOCA SDK 是释放 BlueField 潜力的关键。NVIDIA DOCA 和 BlueField DPU 通过一个全面、开放的开发平台，共同实现了应用程序的开发，这些应用程序可以提供突破性的网络、安全、存储和应用程序性能。   NVIDIA DOCA 支持一系列操作系统和发行版，包括驱动程序、库、工具、文档和示例应用程序。即将发布的 NVIDIA DOCA 1.5 和 2.0 版本引入了广泛的网络、存储、安全功能和增强功能，为 HPC 开发人员提供突破性的性能和高级编程能力：  

全新的通信通道库

快速访问主机内存以实现 UCX 加速

存储仿真（SNAP），包括存储加密

全新的 NVIDIA DOCA 服务，包括 UCC 卸载服务和遥测服务

NVIDIA DOCA 安全 SDK

改变 HPC 领域的今天和明天

许多创新领域已经初露端倪，BlueField DPU 、NVIDIA DOCA 以及社区将继续为 HPC 领域带来改变。   有些想法已经实现了，例如在数据中心范围内增强性能隔离，或增强作业调度程序以实现更智能的作业安排。   由于科学应用程序通常是高度同步的，因此系统噪声对大型 HPC 系统的负面影响可能会对性能产生更大的影响。减少存储等其他过程引起的系统噪音至关重要。   遥测信息功能强大。它不仅仅是收集有关路由器、交换机和网络流量的信息。相反，可以通过工作负载和 I/O 特性收集和共享信息。   AI 框架精确地调整了 NVIDIA Quantum-2 InfiniBand 平台中的性能隔离算法。共享公共数据中心资源（如网络和存储）的多应用程序环境可以确保能实现的最佳性能，就像应用程序作为单个实例在裸机上运行一样。   BlueField DPU 完全有能力应对大规模计算带来的挑战。

编辑：黄飞