0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

如何构建基于DPU的SmartNIC

星星科技指导员 来源:NVIDIA 作者:Kevin Deierling 2022-04-19 15:51 次阅读

每个人都在谈论基于数据处理单元的智能网卡,但没有回答一个简单的问题:什么是智能网卡,它们做什么?

NIC 代表网络接口卡。实际上, NIC 是一种插入服务器或存储盒以连接到以太网网络的 PCIe 卡。基于 DPU 的 SmartNIC 超越了简单的连接,在基础 NIC 的情况下,在 NIC 上实现了 CPU 必须执行的网络流量处理。

一些供应商对基于 DPU 的 SmartNIC 的定义完全集中在实现上。这是有问题的,因为不同的供应商有不同的体系结构。因此,基于 DPU 的 SmartNIC 可以是基于 ASICFPGA 和片上系统的。当然,只生产一种 NIC 的供应商坚持认为,只有其类型的 NIC 才有资格成为 SmartNIC 。

基于 ASIC 的网卡

优异的性价比

供应商开发成本高

编程和可扩展

灵活性仅限于预定义的功能

基于 FPGA 的 NICs

性能好但价格昂贵

难以编程

特定于工作负载的优化

基于 SoC 的 NIC + CPU

良好的性价比

C 可编程处理器

最高灵活性

最简单的可编程性

在这些不同的实现之间,在成本、编程的易用性和灵活性方面存在各种权衡。 ASIC 具有成本效益,可能提供最佳性价比,但灵活性有限。基于 ASIC 的 NIC ,如 NVIDIA ConnectX-5,可以具有相对简单的可编程数据路径。最终,该功能基于 ASIC 中定义的功能而受到限制。这可能会阻止支持某些工作负载。

相比之下, FPGA NIC (如 NVIDIA Innova-2 Flex)具有高度可编程性。只要有足够的时间和精力,就可以在可用门的约束范围内相对高效地支持几乎任何功能。然而,众所周知, FPGA 编程困难且价格昂贵。

对于更复杂的用例, SOC (如 Mellanox BlueField DPU – 可编程智能网卡)提供了似乎是最好的基于 DPU 的 SmartNIC 实现选项:良好的性价比、易于编程和高度灵活。

图 1 SmartNIC 实现比较

专注于特定供应商如何实现基于 DPU 的 SmartNIC ,并没有说明它能够实现什么或应该如何构建。 NVIDIA 实际上有基于这些架构的产品,这些架构可以归类为基于 DPU 的 SmartNIC 。事实上,客户根据自己的需要,将这些产品用于不同的工作负载。因此,将重点放在实现 ASIC 、 FPGA 和 SoC 上,颠覆了最佳体系结构成就背后的“形式遵循功能”理念。

我没有把重点放在实现上,而是对PC 杂志百科全书条目进行了调整,给出了一个使 NIC 成为基于 DPU 的 SmartNIC 的工作定义:

基于 DPU 的 SmartNIC :

一种基于 DPU 的网络接口卡(网络适配器),用于卸载系统 CPU 通常会处理的处理任务。使用自己的板载处理器,基于 DPU 的 SmartNIC 可以执行加密/解密、防火墙、 TCP / IP 和 HTTP 处理的任意组合。 SmartNIC 非常适合高流量 web 服务器。

这个定义有两点我喜欢。首先,它关注的是功能而不是形式。其次,它用语句提示这种形式,“…使用自己的板载处理器…执行任何组合的…”网络处理任务。因此,嵌入式处理器是实现灵活执行几乎任何网络功能的关键。

您可以通过添加基于 DPU 的智能网卡或许也能执行网络、存储或 GPU 虚拟化来现代化该定义。此外, SmartNIC 还非常适合电信、安全、机器学习、软件定义存储和超聚合基础设施服务器,而不仅仅是 web 服务器。

NIC 类别

以下是如何通过网络适配器可以支持并用于加速不同工作负载的功能来区分三类 NIC :

图 2 NIC 类别的功能比较

在这里,我根据 NIC 加速特定功能的能力定义了三类 NIC :

基础 NIC

智能网卡( iNIC )

基于 DPU 的 SmartNIC

基础 NIC 或基本 NIC 只是移动网络流量,除了可能的 SRIOV 和基本 TCP 加速之外,很少或没有卸载。它不保存任何 CPU 周期,也不能卸载数据包控制或流量流。在 NVIDIA ,我们甚至不再销售基础 NIC 。

NVIDIA ConnectX 适配器系列具有可编程数据路径,并加速了一系列功能,这些功能最初在公共云使用案例中变得非常重要。出于这个原因,我将这种类型的 NIC 定义为 iNIC ,尽管今天本地企业、电信和私有云与公共云提供商一样需要这种类型的可编程性和加速功能。它的另一个名字可能是没有资本的智能

在许多情况下,客户告诉我们,他们需要竞争对手提供的基于 DPU 的 SmartNIC 功能,这些功能可以是 FPGA ,也可以是结合定制专有处理引擎的 NIC 。但是,当客户真正了解其特定工作负载所需的功能时,他们最终会决定, ConnectX 系列 iNICs 提供了其他所谓 SmartNIC 的所有功能、性能和灵活性,而功耗和成本仅为后者的一小部分。因此,根据一些竞争对手使用的 SmartNIC 的定义,我们的 ConnectX NIC 确实是 SmartNIC ,尽管我们 MIG 称之为智能 NIC 或更智能的 NIC 。我们的 FPGA NIC ( Innova )也是经典意义上的 SmartNIC ,我们的 SoC NIC (使用 BlueField )是 SmartNIC 中最智能的,我们可以称之为 Genius NIC

那么,什么是 SmartNIC ?基于 DPU 的 SmartNIC 是一种网络适配器,可加速功能并将其从服务器(或存储) CPU 中卸载。

您应该如何构建基于 DPU 的 SmartNIC ,以及哪种 SmartNIC 对于每个工作负载来说是最好的……好吧,问题在于细节。深入了解哪些数据路径和虚拟化加速可用以及如何使用它们非常重要。

关于作者

Kevin Deierling 从 2013 年 3 月开始担任 Mellanox 的营销副总裁。此前,他曾担任 Genia Technologies 的技术副总裁、 Silver Spring Networks 的首席架构师,并在 Spans Logic 负责营销和业务开发

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    4940

    浏览量

    102815
  • 适配器
    +关注

    关注

    8

    文章

    1932

    浏览量

    67916
  • 服务器
    +关注

    关注

    12

    文章

    9021

    浏览量

    85184
收藏 人收藏

    评论

    相关推荐

    中科驭数分析DPU在云原生网络与智算网络中的实际应用

    CCF Chip 2024,精彩不能停!7月21日下午,中科驭数在第二届中国计算机学会(CCF)芯片大会的“驭数专属时刻”仍在继续,驭数组织承办“DPU技术趋势和应用——DPU在云原生与智算网络中
    的头像 发表于 08-02 11:21 652次阅读

    IaaS+on+DPU(IoD)+下一代高性能算力底座技术白皮书

    数据中心的第三颗“主力芯片”,主要通过其专用处理器优化数据中心的网络、存储、安全等处理性能,助力服务器运行效率显著提升,有效降低成本。因此,在新型数据中心建设时,围绕 DPU 构建数据中心网络的基础设施
    发表于 07-24 15:32

    基于DPUSmartNic的云原生SDN解决方案

    随着云计算,大数据和人工智能等技术的蓬勃发展,数据中心面临着前所未有的数据洪流和计算压力,这对SDN提出了更高的性能和效率要求。自云原生概念被提出以来,Kubernetes为云原生应用的落地提供了一个轻量级,可移植的运行环境,逐渐成为云原生时代基础设施的事实标准。Kubernetes通过网络插件(CNI,Container Network Interface)实现灵活地配置和管理集群中的容器网络,确保容器之间的有效通信和网络安全。
    的头像 发表于 07-22 11:44 638次阅读
    基于<b class='flag-5'>DPU</b>与<b class='flag-5'>SmartNic</b>的云原生SDN解决方案

    中科驭数:DPU构建高效智算中心基础设施的必选项

    先生在《基于DPU的高效智算中心算力底座》主题分享中提出,大模型等智算业务推动算力需求规模快速增长,CPU+GPU+DPU的新型计算节点架构已成为高效智算中心的标准配置,为构建高性能、高灵活性、高安全性的算力基础设施提供了强大支
    的头像 发表于 07-08 10:51 662次阅读

    中科驭数CEO鄢贵海:从计算系统的三个视角重新审视DPU的核心价值

    在信息技术日新月异的浪潮中,DPU正逐渐崭露头角。当前,DPU发展的核心驱动力来自于什么?DPU技术是否已经足够成熟到广泛应用?市场上头部玩家参与到这一创新技术的市场角逐之中?在算力时代,DP
    的头像 发表于 06-28 14:27 438次阅读
    中科驭数CEO鄢贵海:从计算系统的三个视角重新审视<b class='flag-5'>DPU</b>的核心价值

    中科驭数发布高性能DPU芯片K2-Pro

    在信息技术领域,每一次芯片技术的突破都代表着行业的一次飞跃。近日,DPU领域的领军企业中科驭数宣布,成功研发并发布了其第三代DPU芯片——“K2-Pro”。这款芯片的发布,标志着中科驭数在DPU领域的技术实力达到了新的高度。
    的头像 发表于 06-21 11:41 730次阅读

    Nvidia的AI芯片路线图分析与解读

    SmartNIC智能网卡/DPU数据处理引擎的下一跳ConnectX-8/BlueField-4目标速率为 800G,与1.6T Quantum和Spectrum-X配套的SmartNICD
    发表于 04-29 09:59 913次阅读
    Nvidia的AI芯片路线图分析与解读

    DPU技术赋能下一代AI算力基础设施

    4月19日,在以“重构世界 奔赴未来”为主题的2024中国生成式AI大会上,中科驭数作为DPU新型算力基础设施代表,受邀出席了中国智算中心创新论坛,发表了题为《以网络为中心的AI算力底座构建之路》主题演讲,勾勒出在通往AGI之路上,DP
    的头像 发表于 04-20 11:31 806次阅读

    明天线上见!DPU构建高性能云算力底座——DPU技术开放日最新议程公布!

    技术在不同行业中的应用解决方案有哪些?能带来怎样的业务效果? 3月29日本周五,中科驭数集结产品大咖及解决方案专家团,诚邀您参加以“DPU构建高性能云算力底座”为主题的线上DPU技术开放日! 他们将逐一与您分享中科驭数系列
    的头像 发表于 04-03 18:12 976次阅读

    中科驭数DPU技术开放日秀“肌肉”:云原生网络、RDMA、安全加速、低延时网络等方案组团亮相

    DPU技术开放日既是对DPU技术应用的典型方案展示,也是DPU技术在重要细分场景走向成熟的标志。
    的头像 发表于 04-01 11:48 748次阅读
    中科驭数<b class='flag-5'>DPU</b>技术开放日秀“肌肉”:云原生网络、RDMA、安全加速、低延时网络等方案组团亮相

    FPGA-Based DPU网卡的发展和应用

    采用单芯片的SoC形态,兼顾性能和功耗。FPGA-Based DPU在硬件设计上的挑战主要来自芯片面积和功耗。
    发表于 02-23 14:40 1915次阅读
    FPGA-Based <b class='flag-5'>DPU</b>网卡的发展和应用

    《数据处理器:DPU编程入门》DPU计算入门书籍测评

    一、DPU计算框架 通过一周多的时间翻阅这本书,基本上这本书是一本比较全面的,面向架构的新手指导数据。它在书中详尽介绍了关于DPU在计算机架构中的应用。 对于DPU来说,是一种平行于CPU和GPU
    发表于 12-24 10:54

    《数据处理器:DPU编程入门》读书笔记

    首先感谢电子发烧友论坛提供的试读机会。 第一周先阅读了DPU的技术发展背景,了解到DPU是结合了高性能及软件可编程的多核CPU、高性能网络接口,以及各种灵活和可编程的加速引擎。DPU的主要作用是卸载
    发表于 12-21 10:47

    浅谈DPU和CPU、GPU的关系

    把CPU的一大部分算力卸载给GPU之后,人们发现可以把很多其他功能也外包出去,于是又有了智能网卡,或者叫做DPU
    发表于 12-14 11:44 844次阅读
    浅谈<b class='flag-5'>DPU</b>和CPU、GPU的关系

    《数据处理器:DPU编程入门》+初步熟悉这本书的结构和主要内容

    dpu:推出的主要意义是为了减轻CPU的数据处理负担,使得cpu可以更具专注自己的通用计算处理运算。 1、DPU数据处理器,演进的核心驱动力是什么? 计算工作负载的不断增长是DPU演进的核心驱动力
    发表于 12-08 18:03