0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

使用 NVIDIA DOCA 2.2 加速数据中心工作负载和 AI 应用程序

NVIDIA英伟达 来源:未知 2023-09-05 19:40 次阅读

NVIDIA DOCA SDK 和加速框架为开发者提供了丰富的库、驱动程序和 API,以便为 NVIDIA BlueField DPU 和 ConnectX 智能网卡创建高性能应用程序和服务。它推动了数据中心的创新,实现了应用程序的快速部署。

凭借全面的功能,NVIDIA DOCA 可为基于 BlueField DPU 进行开发的开发人员提供大规模加速数据中心工作负载和人工智能应用程序的一站式服务。

NVIDIA DOCA 现已普遍可用,已使超过 10,000 名开发者从中受益,并使更广泛的开发者社区利用 BlueField DPU 平台实现创新的人工智能和云服务。

NVIDIA DOCA 2.2 的新增和增强功能

NVIDIA DOCA 2.2 引入了新增功能和增强功能,用于卸载、加速和隔离数据中心内的网络、存储、安全和基础设施管理。

视频 1:观看 NVIDIA DOCA 软件框架简介

编程

NVIDIA BlueField-3 DPU 与其板载专用数据路径加速器(DPA)和 DOCA SDK 框架相结合,提供了一个无与伦比的平台。现在,开发者可以创建需要高吞吐量和低延迟的高性能且可扩展的网络应用程序。

数据路径加速器

为利用 BlueField-3 DPA 编程子系统,NVIDIA DOCA 2.2 提供了几项增强功能。DOCA DPA 是 DOCA SDK 开发包的一个新计算子系统部分,它提供了一个编程模型,用于卸载在 DPA 处理器上运行的以通信为中心的用户代码。DOCA DPA 有助于卸载 CPU 流量,并通过 DPU 加速提高性能。

wKgaomT3FMmAF382AADXPghwo8w893.jpg

图 1:NVIDIA BlueField-3 DPU 流入和流出流量

DOCA DPA 还提供了显著的开发优势,包括在创建自定义模拟和拥塞控制时具有更高的灵活性。定制的拥塞控制对于人工智能工作流至关重要,可以实现性能隔离、提高公平性,并防止在有损网络上的丢包。

DOCA 2.2 版本引入了以下 SDK:

  • DOCA-FlexIO:这是一个用于 DPA 编程的低级别 SDK。具体来说,DOCA FlexIO 驱动程序提供了用于通过 DPA 管理和运行代码的 API。

  • DOCA-PCC:这是一个用于拥塞控制开发的 SDK,它使 CSP 和企业客户能够创建自己的拥塞控制算法,从而通过更高的带宽和更低的延迟来提高网络运营的稳定性和效率。

NVIDIA 还提供必要的工具链、示例和辅助资料,以加快和支持开发工作。请注意,NVIDIA DOCA DPA 可在 DPU 模式和 NIC 模式下使用。

wKgaomT3FMmAQydyAAGP1lgfmaA045.png

图 2:DOCA-PCC 提供更高的带宽和更低的延迟

网络

NVIDIA DOCA 和 BlueField-3 DPU 通过一个全面、开放的开发平台,共同开发出具有突破性网络性能的应用程序。NVIDIA DOCA 包括一系列驱动程序、库、工具和示例应用程序,并在不断发展。此版本提供了以下其他功能,以支持网络应用程序的开发。

NVIDIA DOCA Flow

借助 NVIDIA DOCA Flow,用户可以定义和控制网络流量,实现网络策略,并以编程方式管理网络资源。它提供网络虚拟化、遥测、负载平衡、安全强制和流量监控等功能。这些功能有助于以低延迟处理高数据包工作负载,节省 CPU 资源并降低功耗。

此版本包括以下新功能,可为云部署带来即时优势:

  • 支持隧道卸载 - GENEVE 和 GRE:提供增强的安全性、可见性、可扩展性、灵活性和可扩展性,是站点通信、网络隔离和多租户的构建块。具体而言,GRE 隧道用于连接单独的网络并建立安全的 VPN 通信,支持 Overlay 网络,提供协议灵活性,并实现流量工程。

  • 支持具有 bps / pps 选项的每个流计量:在云环境中,监控 / 分析流量(即测量带宽或数据包速率)、管理 QoS(即执行限制)或增强安全性(即阻止拒绝服务攻击)都至关重要。

  • 增强的镜像功能(FDB / 交换机域):这项新增功能不仅用于监控、故障排除、安全分析和性能优化,还能为镜像工作负载提供更高的 CPU 利用率。

OVS-DOCA (Beta 版)

OVS-DOCA 是适用于 NVIDIA 网络服务的高度优化虚拟交换机。其极其高效的设计通过 NVIDIA 网卡或 DPU 提升了下一代性能和规模。现在,OVS-DOCA 可以在 DOCA 中用于 DPU,也可以在 DOCA 中用于主机(二进制文件和源代码)。

wKgaomT3FMqAcILHAACNw5-YgMM335.png

图 3:OVS- DOCA 针对 NVIDIA 网络服务进行了优化

基于 Open vSwitch,OVS-DOCA 提供了相同的北向 API、OpenFlow、CLI 和数据接口,为 OVS 提供了一种替代方案。使用 OVS-DOCA 可以更快地实现未来 NVIDIA 创新的网络功能。

BlueField-3(增强的)NIC 模式(Beta 版)

此版本受益于增强的 BlueField-3 NIC 模式,目前处于 Beta 版。与卸载、加速和隔离都可用的 BlueField-3 DPU 模式不同,BlueField-3 NIC 模式仅提供加速功能。

wKgaomT3FMuAPItjAAIbmHs5-Uo009.png

图 4:BlueField-3(增强的)NIC 模式

在继续利用 BlueField 低功耗和低计算密集型 SKU 的同时,增强的 BlueField-3 NIC 模式比当前的 ConnectX BlueField-2 NIC 模式具有许多优势,包括:

  • 使用本地 DPU 内存大规模实现更高的性能和更低的延迟

  • 采用可编程拥塞控制(PCC)的高性能 RDMA

  • 利用 DPA 和其他 BlueField 加速器实现可编程性

  • 通过设备认证和卡载 BMC 实现强大平台安全性

请注意,BlueField-3 NIC 模式将作为一种软件模式进行产品化,而非单独的 SKU,以实现未来使用 DPU 模式。因此,BlueField-3 NIC 模式是所有 BlueField-3 SKU 上都可以使用的且完全支持的软件功能。对于在 NIC 模式下运行的任何 BlueField-3 DPU,DPA 可编程性要求在主机上安装 DOCA 和活跃的基于主机服务。

服务

NVIDIA DOCA 服务是一种基于容器化 DOCA 程序,为特定用例提供端到端解决方案。这些服务可以通过 NVIDIA NGC 获得,从而可以轻松地将它们直接部署到 DPU。DOCA 2.2 提供了更好的控制能力,现在可以离线安装 DOCA 服务。

NGC 离线服务安装

从 NGC 安装 DOCA 服务需要互联网连接。然而,许多客户在没有互联网接入的安全生产环境中运营。因此,我们提供了“非连接”部署选项,可以在完全安全的生产环境中安装服务,从而简化流程,并避免了每台服务器都需要连接才能完成安装过程的情况。

例如,考虑在生产环境中安装 DOCA 遥测服务(DTS)以支持计量收集。整个安装过程只需两个步骤即可完成:

  • 步骤 1:在已连接的服务器上下载 NGC

  • 步骤 2:使用内部安全交付进行离线安装

总结

NVIDIA DOCA 2.2 在推动数据中心创新以及为人工智能应用而改造云和企业数据中心网络方面发挥着关键和不可或缺的作用。通过为 BlueField DPU 提供全面的 SDK 和加速框架,DOCA 为开发者提供了强大的库、驱动程序和 API,从而能够创建高性能的应用程序和服务。

DOCA 2.2 有了一些新增功能和增强功能,可以立即获得许多优势。除了通过 DPU 加速实现的性能提升外,DOCA-FlexIO 和 DOCA-PCC SDK 的加入为开发者提供了以人工智能为中心的加速计算优势。这些 SDK 能够创建自定义模拟和算法,缩短上市时间,并显著改善整体开发体验。

此外,NVIDIA DOCA FLOW 和 OVS-DOCA 的网络特定更新为软件定义的网络和安全解决方案提供了简化的交付途径。这些功能提高了效率,增强了可见性、可扩展性和灵活性,对于构建复杂而安全的基础架构至关重要。

DOCA 为数据中心创新、人工智能应用加速和强大的网络基础设施做出了广泛贡献,是 NVIDIA 人工智能云服务的重要组成部分。随着行业朝着更复杂、更苛刻的计算需求发展,DOCA 的不断发展以及与尖端技术的集成将进一步巩固其作为开创性平台的地位,为数据中心和人工智能驱动的解决方案的未来赋能。

扫描下方二维码立即访问 DOCA。

wKgaomT3FMuAcjGYAAADAXCvQCE658.png


wKgaomT3FMuAA6QWAABAFFJlyZc514.gif  

更多精彩内容 利用 NVIDIA DOCA Flow 实现 DPU 加速数据包转向逻辑
使用 NVIDIA DOCA GPUNetIO 实现实时网络处理功能
利用 NVIDIA DOCA 2.0 改变 IPsec 的部署


原文标题:使用 NVIDIA DOCA 2.2 加速数据中心工作负载和 AI 应用程序

文章出处:【微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英伟达
    +关注

    关注

    22

    文章

    3772

    浏览量

    91004

原文标题:使用 NVIDIA DOCA 2.2 加速数据中心工作负载和 AI 应用程序

文章出处:【微信号:NVIDIA_China,微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    AmpereOne如何满足现代数据中心需求

    在当今要求苛刻的技术环境中,数据中心和企业面临着严峻的挑战。不断上升的能源成本促使公司寻求更节能的解决方案,以满足可持续性和成本目标。对可扩展计算密度的需求也在增长,以跟上日益复杂的应用程序和云原生
    的头像 发表于 12-09 17:33 337次阅读

    NVIDIA DOCA 2.9版本的亮点解析

    NVIDIA DOCA通过为开发者提供全面的软件框架以利用硬件加速来增强 NVIDIA 网络平台的功能,从而提高性能、安全性和效率。其 API、库和工具生态系统简化了
    的头像 发表于 11-27 11:15 302次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>DOCA</b> 2.9版本的亮点解析

    NVIDIA DOCA-OFED的主要特性

    NVIDIA DOCA 软件平台释放了 NVIDIA BlueField 网络平台的潜力,并为NVIDIA BlueField和ConnectX设备提供了所需的所有主机驱动
    的头像 发表于 11-09 13:50 260次阅读

    NVIDIA NIM在搭载RTX技术的AI工作站上的应用

    模型和应用程序数据中心和云服务提供商 (CSP) 对 AI 加速硬件的需求超过供应。当前的桌面计算资源可能不适合 AI 增强型
    的头像 发表于 11-09 11:47 339次阅读

    NVIDIA SuperNIC推进现代AI基础设施发展

    在生成式 AI 时代,加速网络对于为大规模分布式 AI 工作负载构建高性能计算平台至关重要。NVIDIA
    的头像 发表于 11-06 13:59 232次阅读

    IB Verbs和NVIDIA DOCA GPUNetIO性能测试

    Async 等技术,能够创建以 GPU 为中心应用程序,其中 CUDA 内核可以直接与网卡(NIC)通信,从而绕过 CPU 发送和接收数据包,并将 CPU 排除在关键路径之外。
    的头像 发表于 08-23 17:03 599次阅读
    IB Verbs和<b class='flag-5'>NVIDIA</b> <b class='flag-5'>DOCA</b> GPUNetIO性能测试

    数据中心使用智能负载组是个好主意#负载 #负载

    数据中心
    深圳崧皓电子
    发布于 :2024年08月19日 07:43:30

    数据中心AI时代转型:挑战与机遇

    随着人工智能(AI)的迅速发展和广泛应用,数据中心作为AI技术的基石,也面临着前所未有的挑战和机遇。为了满足AI的高性能和低延迟要求,数据中心
    的头像 发表于 07-24 08:28 488次阅读
    <b class='flag-5'>数据中心</b>的<b class='flag-5'>AI</b>时代转型:挑战与机遇

    美光MRDIMM内存发布,加速数据中心工作负载

    需要每个 DIMM 插槽内存超过 128GB 的应用,美光 MRDIMM 提供最高带宽、最大容量、最低延迟以及更高的每瓦性能,在加速内存密集型虚拟化多租户、高性能计算和 AI 数据中心工作负载
    的头像 发表于 07-22 14:06 562次阅读

    八大科技巨头携手推进UALink,加速数据中心AI互联

    近日,英特尔、Google、微软、Meta等八家科技巨头宣布共同成立超加速器链接(UALink)推广小组,致力于推动数据中心AI加速器芯片的连接组件发展。UALink旨在优化
    的头像 发表于 05-31 10:59 832次阅读

    借助NVIDIA DOCA 2.7增强AI数据中心NVIDIA Spectrum-X

    NVIDIA DOCA 加速框架为开发者提供了丰富的库、驱动和 API,以便为 NVIDIA BlueField DPU 和 SuperNIC 创建高性能的
    的头像 发表于 05-29 09:22 486次阅读

    HNS 2024:星河AI数据中心网络,赋AI时代新动能

    华为数据通信创新峰会2024在巴库隆重举办,在“星河AI数据中心网络,赋AI时代新动能”主题论坛中,华为面向中东中亚地区发布星河AI
    的头像 发表于 05-15 09:15 651次阅读
    HNS 2024:星河<b class='flag-5'>AI</b><b class='flag-5'>数据中心</b>网络,赋<b class='flag-5'>AI</b>时代新动能

    NVIDIA数字人技术加速部署生成式AI驱动的游戏角色

    NVIDIA 在 GDC 2024 大会上宣布,Inworld AI 等领先的 AI 应用程序开发者,正在使用 NVIDIA 数字人技术
    的头像 发表于 04-09 10:08 663次阅读
    <b class='flag-5'>NVIDIA</b>数字人技术<b class='flag-5'>加速</b>部署生成式<b class='flag-5'>AI</b>驱动的游戏角色

    基于NVIDIA DOCA 2.6实现高性能和安全的AI云设计

    作为专为 NVIDIA® BlueField® 网络平台而设计的数据中心基础设施软件框架,NVIDIA® DOCA™ 使广大开发者能够利用其行业标准 API 在
    的头像 发表于 02-23 10:02 471次阅读

    NVIDIA DOCA 2.5 长期支持版本发布

    基础设施开发者的全面软件框架,NVIDIA DOCA 已被领先的云服务提供商、企业和 ISV 创新者所采用,为开发、优化和部署基于 NVIDIA BlueField 系列产品的加速
    的头像 发表于 12-26 18:25 407次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>DOCA</b> 2.5 长期支持版本发布