0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA DOCA 1.1加速应用在DPU上的开发

星星科技指导员 来源:NVIDIA 作者:Scott Ciccone 2022-04-14 15:36 次阅读

NVIDIA发布NVIDIA DOCA 1.1 —— 用于BlueField DPU(全球最先进的数据处理器)的软件框架。最新版本的NVIDIA DOCA将延续DOCA抢先体验计划的强劲势头,提供更多的DOCA SDK内容、运行时和服务,助力开发者加速在DPU上的应用开发。

DPU的作用在网络功能和虚拟化资源的卸载、加速和隔离中越来越重要。现代应用需要将大量的网络操作交给CPU来处理,这成为了在每个主机中都配备DPU的强动力。相比标准的CPU来言, DPU可以更快、更高效地处理所有这些虚拟化工作(如Open vSwitch(OVS)、SR-IOV、RDMA等)。此外,通过将DPU与主CPU分开运行,提供了更高的安全性和操作隔离,并无需CPU或主机操作系统的参与,便可检测并阻止恶意行为。

DOCA是释放DPU潜力的关键。应用开发者和NVIDIA技术合作伙伴能够通过DOCA加速交付在每个数据中心节点中的DPU上运行的服务。DPU为网络、安全、存储和基础设施管理创建了一个隔离的安全服务域。

DOCA 1.1版本建立在DOCA 1.0的强劲势头之上,并包含以下更新:

DOCA FLOW-LIB —— 用于网关性能的加速,以实现不同网络间互操作性

DOCA FLOW示例应用—— 用于URL和DNS过滤与转发功能

加速有状态流表(SFT)—— 用于连接追踪功能

加速正则表达式(RegEx)—— 用于与DPI Lib进行模式匹配

引入x86平台上的DOCA Runtime —— 用于加速在主机x86处理器上运行的应用, 不必所有的业务都卸载到DPU。

根据The Linley Group首席分析师Bob Wheeler近日发布的白皮书,“FLOW-Gateway库(基于流的网关库)基于数据通路上的SFT(有状态流量表)实现了一种硬件加速的网关。与基于DPDK的通用流的API(rte_flow)相比,该库为过滤和分配网络流量的网关应用提供了更高层的抽象。深度包检测(DPI)库同样结合了SFT和RegEx加速,向应用层开放了一个上层API。它可以根据一个编译后签名数据库对数据包的Payload进行不固定搜索。”

更多关于DOCA的信息,敬请阅读Wheeler的白皮书《基于DPU的硬件加速:软件视角》。

DOCA软件栈的各组成部分

下图是关于DOCA软件栈的基本框架:

DOCA有三个主要组成部分:驱动程序、库和各种服务。每个组成部分都在DPU上运行,包括BlueField和BlueField-X(一种紧耦合的DPU-GPU融合解决方案)。DOCA还包含在DPU上正式发布的或是正在开发和部署的参考应用,如网络、安全、存储、高性能计算/人工智能、电信和媒体等应用。所有这些应用都可以从CPU上卸载到DPU上,实现加速和隔离,从而大幅提高性能和效率,使数据中心变成一个加速的、完全可编程的、安全的且具有公有云的可扩展性的先进虚拟私有云。

有关DOCA各组成部分的详细介绍,请观看NVIDIA Ami Badani和Ariel Kit近日在2021年GTC大会上发表的题为“通过DOCA和最新的DPU软件对数据中心基础设施的加速功能进行编程”的演讲。

DOCA优点总结

DOCA旨在帮助开发者了解NVIDIA的愿景——打造集DPU、CPU和GPU三大支柱为一体的加速数据中心。通过DOCA,NVIDIA正在实现对DPU所有功能的访问,同时简化在DPU上创建新应用或整合现有应用到DPU上的操作。DOCA具有以下优点:

DOCA简化了使用DPU的基础设施应用和功能的开发与部署流程,使应用能够更快面市。

– 统一访问所有的DPU功能:通过将所有需要的资源放在一处来加速开发,避免跟踪开发的发散和不同的工具。

在底层DPU API构建一个带抽象层的上层库:合作伙伴能够从上层进行集成,以实现快速、简单和高性能的开发,或从底层进行集成,以实现更精细的控制。

向前/向后兼容:使用DOCA开发意味着应用可以在BlueField DPU的未来版本上无缝运行,同时获得更高的性能和扩展性。

基于容器化服务的DPU配置和部署 :DOCA包含用于简化DPU设置、配置和各种服务编排的工具。

DOCA开发容器和SDK管理器——用于增强开发者体验,使您能够在任何系统上运用容器化的开发者环境创建最具创新力的应用,并使用SDK管理器轻松升级DPU卡和移植您的运行时应用运行在DPU 的 Arm核上。

发布了DOCA 1.1版本之后,NVIDIA还将继续为DOCA库、驱动程序和服务添加应用实例,助力于广泛的网络、存储、安全和基础设施管理用例等应用的开发。

此外,NVIDIA还将与其生态系统伙伴合作,提供联合解决方案以不断地推动这一强劲势头,首个解决方案即将面世。这个由DOCA/DPU合作伙伴和抢先体验开发者组成的生态系统正在迅速壮大,使客户能够接触到行业领导者一流的网络、安全和存储解决方案。

关于作者

Scott Ciccone 于 2020 年作为 Cumulus Networks 收购的一部分加入后,目前担任 NVIDIA 的产品营销总监。 Scott 在产品营销和产品管理方面拥有 20 多年的经验,擅长在高增长环境下启动新的业务线,包括 Cumulus Networks , Palo Alto Networks 、 Cisco 和 Sun Microsystems 。斯科特在罗切斯特理工学院获得生物医学计算学士学位,在巴布森学院获得市场营销工商管理硕士学位。

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 处理器
    +关注

    关注

    68

    文章

    19136

    浏览量

    228958
  • NVIDIA
    +关注

    关注

    14

    文章

    4863

    浏览量

    102755
收藏 人收藏

    评论

    相关推荐

    NVIDIA DOCA-OFED的主要特性

    NVIDIA DOCA 软件平台释放了 NVIDIA BlueField 网络平台的潜力,并为NVIDIA BlueField和ConnectX设备提供了所需的所有主机驱动程序。
    的头像 发表于 11-09 13:50 143次阅读

    NVIDIA生成式AI进入ROS社区

    NVIDIA 在 ROSCon 发布更新,旨在加速 AI 驱动的机械臂和自主移动机器人的开发
    的头像 发表于 10-31 14:41 209次阅读

    差动放大器通常是应用在什么场合?

    请问下差动放大器通常是应用在什么场合?
    发表于 09-19 06:35

    借助OpenUSD和NVIDIA Omniverse开发数字孪生应用

    为了满足制造业和其他行业的数字化转型需求,致力于开发生产、内部物流和装配优化软件的公司 SyncTwin GmbH 通过使用用于解决复杂路线规划问题的加速优化引擎NVIDIA cuOpt和由应用编程
    的头像 发表于 09-06 14:18 357次阅读

    IB Verbs和NVIDIA DOCA GPUNetIO性能测试

    NVIDIA DOCA GPUNetIO 是 NVIDIA DOCA SDK 中的一个库,专门为实时在线 GPU 数据包处理而设计。它结合了 GPUDirect RDMA 和 GPUD
    的头像 发表于 08-23 17:03 474次阅读
    IB Verbs和<b class='flag-5'>NVIDIA</b> <b class='flag-5'>DOCA</b> GPUNetIO性能测试

    求助,请问TLV2464cpwr通用运放有应用在audio的典型电路吗?

    TLV2464cpwr通用运放有应用在audio的典型电路吗?
    发表于 08-08 08:20

    借助NVIDIA DOCA 2.7增强AI 云数据中心和NVIDIA Spectrum-X

    NVIDIA DOCA 加速框架为开发者提供了丰富的库、驱动和 API,以便为 NVIDIA BlueField
    的头像 发表于 05-29 09:22 454次阅读

    NVIDIA DPU编程入门开课仪式在澳门科技大学成功举办

    5 月 24 日,NVIDIA DPU 编程入门开课仪式在澳门科技大学成功举办。作为首个在中国开设 NVIDIA DPU 编程相关课程的高校,来自澳门科技大学不同院系的师生共同见证了本
    的头像 发表于 05-28 09:40 351次阅读

    基于NVIDIA DOCA 2.6实现高性能和安全的AI云设计

    作为专为 NVIDIA® BlueField® 网络平台而设计的数据中心基础设施软件框架,NVIDIA® DOCA™ 使广大开发者能够利用其行业标准 API 在
    的头像 发表于 02-23 10:02 425次阅读

    NVIDIA DOCA 2.5 长期支持版本发布

    基础设施开发者的全面软件框架,NVIDIA DOCA 已被领先的云服务提供商、企业和 ISV 创新者所采用,为开发、优化和部署基于 NVIDIA
    的头像 发表于 12-26 18:25 377次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>DOCA</b> 2.5 长期支持版本发布

    《数据处理器:DPU编程入门》DPU计算入门书籍测评

    实践 最后一部分是数据加速应用的落地: 基于各个平台的算力解决方案 推荐的存储解决方案 边缘计算方案 网络平台与融合加速技术 本书不能帮你完全入门DOCA和相关的DPU
    发表于 12-24 10:54

    《数据处理器:DPU编程入门》读书笔记

    首先感谢电子发烧友论坛提供的试读机会。 第一周先阅读了DPU的技术发展背景,了解到DPU是结合了高性能及软件可编程的多核CPU、高性能网络接口,以及各种灵活和可编程的加速引擎。DPU
    发表于 12-21 10:47

    《数据处理器:DPU编程入门》+初步熟悉这本书的结构和主要内容

    InfiniBand 网络连接端口:这些端口提供高速网络功能。 软件完全向后兼容:BlueField-3 DPUNVIDIA DOCA™ 软件框架兼容,确保与现有系统无缝集成。 加速
    发表于 12-08 18:03

    NVIDIA 初创加速计划 Omniverse 加速

    的重要力量。基于 NVIDIA 全栈式 AI 计算平台和 Omniverse TM 平台上的生成式 AI 创作实践,让企业、开发者能够了解可落地的生成式 AI 内容创作技术及其技术趋势与当前边界。 NVIDIA 初创
    的头像 发表于 12-04 20:35 611次阅读
    <b class='flag-5'>NVIDIA</b> 初创<b class='flag-5'>加速</b>计划 Omniverse <b class='flag-5'>加速</b>营

    数字隔离器可应用在本质安全应用中

    电子发烧友网站提供《数字隔离器可应用在本质安全应用中.pdf》资料免费下载
    发表于 11-24 10:24 1次下载
    数字隔离器可<b class='flag-5'>应用在</b>本质安全应用中