0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA DOCA 1.1加速应用在DPU上的开发

星星科技指导员 来源:NVIDIA 作者:Scott Ciccone 2022-04-14 15:36 次阅读

NVIDIA发布NVIDIA DOCA 1.1 —— 用于BlueField DPU(全球最先进的数据处理器)的软件框架。最新版本的NVIDIA DOCA将延续DOCA抢先体验计划的强劲势头,提供更多的DOCA SDK内容、运行时和服务,助力开发者加速在DPU上的应用开发。

DPU的作用在网络功能和虚拟化资源的卸载、加速和隔离中越来越重要。现代应用需要将大量的网络操作交给CPU来处理,这成为了在每个主机中都配备DPU的强动力。相比标准的CPU来言, DPU可以更快、更高效地处理所有这些虚拟化工作(如Open vSwitch(OVS)、SR-IOV、RDMA等)。此外,通过将DPU与主CPU分开运行,提供了更高的安全性和操作隔离,并无需CPU或主机操作系统的参与,便可检测并阻止恶意行为。

DOCA是释放DPU潜力的关键。应用开发者和NVIDIA技术合作伙伴能够通过DOCA加速交付在每个数据中心节点中的DPU上运行的服务。DPU为网络、安全、存储和基础设施管理创建了一个隔离的安全服务域。

DOCA 1.1版本建立在DOCA 1.0的强劲势头之上,并包含以下更新:

DOCA FLOW-LIB —— 用于网关性能的加速,以实现不同网络间互操作性

DOCA FLOW示例应用—— 用于URL和DNS过滤与转发功能

加速有状态流表(SFT)—— 用于连接追踪功能

加速正则表达式(RegEx)—— 用于与DPI Lib进行模式匹配

引入x86平台上的DOCA Runtime —— 用于加速在主机x86处理器上运行的应用, 不必所有的业务都卸载到DPU。

根据The Linley Group首席分析师Bob Wheeler近日发布的白皮书,“FLOW-Gateway库(基于流的网关库)基于数据通路上的SFT(有状态流量表)实现了一种硬件加速的网关。与基于DPDK的通用流的API(rte_flow)相比,该库为过滤和分配网络流量的网关应用提供了更高层的抽象。深度包检测(DPI)库同样结合了SFT和RegEx加速,向应用层开放了一个上层API。它可以根据一个编译后签名数据库对数据包的Payload进行不固定搜索。”

更多关于DOCA的信息,敬请阅读Wheeler的白皮书《基于DPU的硬件加速:软件视角》。

DOCA软件栈的各组成部分

下图是关于DOCA软件栈的基本框架:

DOCA有三个主要组成部分:驱动程序、库和各种服务。每个组成部分都在DPU上运行,包括BlueField和BlueField-X(一种紧耦合的DPU-GPU融合解决方案)。DOCA还包含在DPU上正式发布的或是正在开发和部署的参考应用,如网络、安全、存储、高性能计算/人工智能、电信和媒体等应用。所有这些应用都可以从CPU上卸载到DPU上,实现加速和隔离,从而大幅提高性能和效率,使数据中心变成一个加速的、完全可编程的、安全的且具有公有云的可扩展性的先进虚拟私有云。

有关DOCA各组成部分的详细介绍,请观看NVIDIA Ami Badani和Ariel Kit近日在2021年GTC大会上发表的题为“通过DOCA和最新的DPU软件对数据中心基础设施的加速功能进行编程”的演讲。

DOCA优点总结

DOCA旨在帮助开发者了解NVIDIA的愿景——打造集DPU、CPU和GPU三大支柱为一体的加速数据中心。通过DOCA,NVIDIA正在实现对DPU所有功能的访问,同时简化在DPU上创建新应用或整合现有应用到DPU上的操作。DOCA具有以下优点:

DOCA简化了使用DPU的基础设施应用和功能的开发与部署流程,使应用能够更快面市。

– 统一访问所有的DPU功能:通过将所有需要的资源放在一处来加速开发,避免跟踪开发的发散和不同的工具。

在底层DPU API构建一个带抽象层的上层库:合作伙伴能够从上层进行集成,以实现快速、简单和高性能的开发,或从底层进行集成,以实现更精细的控制。

向前/向后兼容:使用DOCA开发意味着应用可以在BlueField DPU的未来版本上无缝运行,同时获得更高的性能和扩展性。

基于容器化服务的DPU配置和部署 :DOCA包含用于简化DPU设置、配置和各种服务编排的工具。

DOCA开发容器和SDK管理器——用于增强开发者体验,使您能够在任何系统上运用容器化的开发者环境创建最具创新力的应用,并使用SDK管理器轻松升级DPU卡和移植您的运行时应用运行在DPU 的 Arm核上。

发布了DOCA 1.1版本之后,NVIDIA还将继续为DOCA库、驱动程序和服务添加应用实例,助力于广泛的网络、存储、安全和基础设施管理用例等应用的开发。

此外,NVIDIA还将与其生态系统伙伴合作,提供联合解决方案以不断地推动这一强劲势头,首个解决方案即将面世。这个由DOCA/DPU合作伙伴和抢先体验开发者组成的生态系统正在迅速壮大,使客户能够接触到行业领导者一流的网络、安全和存储解决方案。

关于作者

Scott Ciccone 于 2020 年作为 Cumulus Networks 收购的一部分加入后,目前担任 NVIDIA 的产品营销总监。 Scott 在产品营销和产品管理方面拥有 20 多年的经验,擅长在高增长环境下启动新的业务线,包括 Cumulus Networks , Palo Alto Networks 、 Cisco 和 Sun Microsystems 。斯科特在罗切斯特理工学院获得生物医学计算学士学位,在巴布森学院获得市场营销工商管理硕士学位。

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 处理器
    +关注

    关注

    68

    文章

    19286

    浏览量

    229853
  • NVIDIA
    +关注

    关注

    14

    文章

    4986

    浏览量

    103067
收藏 人收藏

    评论

    相关推荐

    请问ISO7760能应用在USB3.0数据隔离吗?

    请问ISO7760能应用在USB3.0数据隔离吗? USB3.0的最大传输带宽高达5.0Gbps而ISO7760手册显示是100Mbps数据速率两者的bps单位一样,疑惑的是传输带宽和传输速率! 请问有那位朋友将ISO77
    发表于 12-04 08:01

    NVIDIA DOCA 2.9版本的亮点解析

    NVIDIA DOCA通过为开发者提供全面的软件框架以利用硬件加速来增强 NVIDIA 网络平台的功能,从而提高性能、安全性和效率。其 AP
    的头像 发表于 11-27 11:15 312次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>DOCA</b> 2.9版本的亮点解析

    使用NVIDIA AI平台确保医疗数据安全

    三井物产株式会社子公司借助 NVIDIA AI 平台实现数据集的安全共享并使用在这些数据集建立的强大模型加速药物研发。
    的头像 发表于 11-20 09:37 181次阅读

    日本企业借助NVIDIA产品加速AI创新

    日本领先企业和大学正在使用 NVIDIA NeMo、NIM 微服务和 NVIDIA Isaac 加速 AI 创新。
    的头像 发表于 11-19 14:34 304次阅读

    NVIDIA DOCA-OFED的主要特性

    NVIDIA DOCA 软件平台释放了 NVIDIA BlueField 网络平台的潜力,并为NVIDIA BlueField和ConnectX设备提供了所需的所有主机驱动程序。
    的头像 发表于 11-09 13:50 272次阅读

    NVIDIA生成式AI进入ROS社区

    NVIDIA 在 ROSCon 发布更新,旨在加速 AI 驱动的机械臂和自主移动机器人的开发
    的头像 发表于 10-31 14:41 271次阅读

    差动放大器通常是应用在什么场合?

    请问下差动放大器通常是应用在什么场合?
    发表于 09-19 06:35

    借助OpenUSD和NVIDIA Omniverse开发数字孪生应用

    为了满足制造业和其他行业的数字化转型需求,致力于开发生产、内部物流和装配优化软件的公司 SyncTwin GmbH 通过使用用于解决复杂路线规划问题的加速优化引擎NVIDIA cuOpt和由应用编程
    的头像 发表于 09-06 14:18 398次阅读

    IB Verbs和NVIDIA DOCA GPUNetIO性能测试

    NVIDIA DOCA GPUNetIO 是 NVIDIA DOCA SDK 中的一个库,专门为实时在线 GPU 数据包处理而设计。它结合了 GPUDirect RDMA 和 GPUD
    的头像 发表于 08-23 17:03 616次阅读
    IB Verbs和<b class='flag-5'>NVIDIA</b> <b class='flag-5'>DOCA</b> GPUNetIO性能测试

    求助,请问TLV2464cpwr通用运放有应用在audio的典型电路吗?

    TLV2464cpwr通用运放有应用在audio的典型电路吗?
    发表于 08-08 08:20

    借助NVIDIA DOCA 2.7增强AI 云数据中心和NVIDIA Spectrum-X

    NVIDIA DOCA 加速框架为开发者提供了丰富的库、驱动和 API,以便为 NVIDIA BlueField
    的头像 发表于 05-29 09:22 495次阅读

    NVIDIA DPU编程入门开课仪式在澳门科技大学成功举办

    5 月 24 日,NVIDIA DPU 编程入门开课仪式在澳门科技大学成功举办。作为首个在中国开设 NVIDIA DPU 编程相关课程的高校,来自澳门科技大学不同院系的师生共同见证了本
    的头像 发表于 05-28 09:40 397次阅读

    MathWorks 与 NVIDIA 联手加速医疗技术领域中软件定义工作流的开发

    到 GPU 加速NVIDIA Holoscan 算子中以进行实时数据处理和推断,从而加速流数据分析和可视化应用程序的开发与部署。 医疗设备工程师不仅要适应复杂且不断发展的全球法规,
    的头像 发表于 05-17 10:36 369次阅读
    MathWorks 与 <b class='flag-5'>NVIDIA</b> 联手<b class='flag-5'>加速</b>医疗技术领域中软件定义工作流的<b class='flag-5'>开发</b>

    基于NVIDIA DOCA 2.6实现高性能和安全的AI云设计

    作为专为 NVIDIA® BlueField® 网络平台而设计的数据中心基础设施软件框架,NVIDIA® DOCA™ 使广大开发者能够利用其行业标准 API 在
    的头像 发表于 02-23 10:02 476次阅读

    物联网开发提速,需要什么样的“加速器”呢?

    恩智浦一直在探索让系统集成更加便捷的方法。我们开发的恩智浦平台加速器就是其中一个例子,已经应用在数百万恩智浦器件
    的头像 发表于 02-23 09:22 1859次阅读
    物联网<b class='flag-5'>开发</b>提速,需要什么样的“<b class='flag-5'>加速</b>器”呢?