0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

探究DPU的缘起,DPU提升数据中心算力的三种方式

西西 来源:SDNLAB 作者:SDNLAB 2022-09-09 15:56 次阅读

第二届SmartNIC&DPU技术创新峰会在北京举行,云脉芯联在2022 SmartNIC&DPU Awards年度评选中荣获匠心技术奖云脉芯联创始人&CEO刘永锋出席峰会并发表《融合、开放、极致—DPU的未来之路》的主题演讲。

在本次演讲在峰会上引起了参会者的广泛关注。以下为演讲中的主要内容。

DPU发端于网络

探究DPU的缘起,要从了解数据中心架构的演进开始。从数据中心的发展来看,随着规模的不断扩大和承载业务的不同,基础架构经历了比较明显的底层网络技术的代次演进,从IT机房阶段的二层网络、IT数据中心阶段的三层网络到云原生数据中心阶段的虚拟网络

进入到云基础设施时代,为满足高带宽、大规模和低延迟的需求,数据中心基础架构又经历了三个阶段的演进,我们称之为计算联网,计算云网和智算云网时代。

在最初的计算联网阶段,交换机SDN虚拟网络方案就可以满足业务的需求。而到了计算云网阶段则需要通过主机overlay网络的方式在进一步扩大网络规模的同时将虚拟网络同物理网络解耦,以追求更快的业务迭代和更高的稳定性。很明显,CPU在为更多的基础设施服务消耗越来越多的算力。在CPU算力增长遭遇瓶颈,业务数据和网络带宽不断增长的情况下,网络基础架构需要进一步演进来实现整个数据中心维度的降本增效。

因此,DPU的出现不仅仅是为解决CPU的算力瓶颈,而是要通过先天的网络属性,在数据中心整体TCO的维度提升算力。我们把DPU提升数据中心算力手段总结为算力卸载算力释放算力扩展三种方式。

#算力卸载

即以更高的能效比卸载CPU的部分算力,主要是网络,存储,安全等基础设施服务。

#算力释放

即无需CPU介入多次访问内存和外设,避免不必要的数据搬运、拷贝和上下文的切换,直接在网卡硬件上对数据完成处理并交付给最终消费数据的应用。

#算力扩展

是指通过有效避免拥塞消除跨节点的网络通信瓶颈,显著降低分布式应用任务周期中的通信耗时占比,在大规模的集群维度提升计算集群的整体算力。

因此,DPU成为了数字基础设施迈向“连接+计算”的关键一步。

融合、开放、极致——DPU未来发展愿景

第一、融合。 DPU需要一个全新的融合架构来实现进一步的软硬件融合,能够支持云原生的软件定义接口,面向海量连接的资源共享架构,多种协议融合兼容的传输层实现。

第二,开放。 从软硬件协同的角度,首先DPU需要一个通用的CPU架构平台来实现管控平面的软件无缝迁移,传统只能满足灵活性需求的NP则不适合用于管控平面的卸载。其次,从数据平面的卸载角度,DPU需要具备灵活的可编程能力,同时向上兼容面向应用的开放软件接口。

第三,极致。 极致则是指DPU最终需要通过创新架构实现极致的高带宽、低延迟,极致的高性能、低功耗和极致的大规模、高可靠。

在演讲的最后,刘永锋现场展示了云脉芯联基于FPGA实现的DPU产品metaFusion50在RDMA场景下的测试效果,metaFusion50拥塞控制实现机制可以迅速响应网络拥塞,通过硬件机制准确、及时降速,并确保带宽公平分配,同时可以及时、准确全面的上报监控信息。云脉芯联metaFusion 的RDMA功能,能够实现多打一网络拥塞下的拥塞控制。这种通过硬件实现端到端网络拥塞控制的机制是RDMA高性能网络的关键技术,可以满足算存分离,GPU内存共享以及AI模型训练等高价值场景的需求。

编辑:黄飞

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • FPGA
    +关注

    关注

    1629

    文章

    21729

    浏览量

    602978
  • cpu
    cpu
    +关注

    关注

    68

    文章

    10854

    浏览量

    211574
  • DPU
    DPU
    +关注

    关注

    0

    文章

    357

    浏览量

    24169

原文标题:融合、开放、极致——DPU的未来之路

文章出处:【微信号:SDNLAB,微信公众号:SDNLAB】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    数据处理器:DPU编程入门》读书笔记

    。以DPU为技术代表的新算架构,正在重新定义数据中心和云原生技术的基础架构。 DPU的出现,是随着数据中心的高速发展,通信能力和计算能力成
    发表于 12-21 10:47

    数据处理器:DPU编程入门》DPU计算入门书籍测评

    一、DPU计算框架 通过一周多的时间翻阅这本书,基本上这本书是一本比较全面的,面向架构的新手指导数据。它在书中详尽介绍了关于DPU在计算机架构中的应用。 对于DPU来说,是一
    发表于 12-24 10:54

    IaaS+on+DPU(IoD)+下一代高性能算底座技术白皮书

    数据中心的第颗“主力芯片”,主要通过其专用处理器优化数据中心的网络、存储、安全等处理性能,助力服务器运行效率显著提升,有效降低成本。因此,在新型
    发表于 07-24 15:32

    专⽤数据处理器 (DPU) 技术⽩⽪书

    ⼼”转向“数据为中⼼” 252.3. ⼀DPU参考设计 292.4. DPU具备的主要功能 343.DPU应用场景353.1. 应用场景⼀
    发表于 03-14 17:35

    英伟达DPU的过“芯”之处

    和CPU、GPU相结合,构成完全可编程的单一AI计算单元,实现前所未有的安全性和算支持。那么,DPU能否真正承担起与CPU、GPU一样的计算重要性,实现数据中心的一次巨大革新?其创新点到底在哪里?这些
    发表于 03-29 14:42

    【书籍评测活动NO.23】数据处理器:DPU编程入门

    主席 人工智能正在呈爆发式发展,成为数据中心算需求的主要驱动力之一。为了卸载、加速和隔离数据中心基础设施工作负载,DPU应运而生。本书是一本应用NVIDIA BlueField系列
    发表于 10-24 15:21

    很好的书籍,学以致用

    人工智能正在呈爆发式发展,成为数据中心算需求的主要驱动力之一。为了卸载、加速和隔离数据中心基础设施工作负载,DPU应运而生。在社会数字化转型浪潮下,潜在海量
    发表于 10-31 08:45

    什么是DPU

    和服务器内,CPU和GPU已经被广泛地用于各个新型超大规模数据中心。 这些数据中心通过功能强大的新型处理器连接在一起,DPU( Data Processing Unit ,数据处理器)
    发表于 11-03 10:55

    数据处理器:DPU编程入门》+初步熟悉这本书的结构和主要内容

    之一。随着人们对云计算和大数据处理需求的增加,数据中心的计算负载也不断增加。传统的中央处理器(CPU)在处理这些工作负载时可能会遇到瓶颈,难以提供足够的性能和效率。DPU通过提供专门的硬件加速,可以
    发表于 12-08 18:03

    什么是DPU 未来的DPU智能⽹卡硬件形态

    。2020年NVIDIA公司发布的DPU产品战略中将其定位为数据中心继CPU和GPU之后的“第颗主力芯片”,掀起了一波行业热潮。DPU的出现是异构计算的一个阶段性标志。与GPU的发展
    的头像 发表于 11-02 14:21 6976次阅读
    什么是<b class='flag-5'>DPU</b> 未来的<b class='flag-5'>DPU</b>智能⽹卡硬件形态

    NVIDIA DPU技术发展赋能数据中心

    DPU数据中心来说,是通过更明细的分工来实现效率的提升、实现总体系统的成本最优化。”
    的头像 发表于 12-15 13:51 1771次阅读

    被称为数据中心“第颗主力芯片”,DPU凭什么?

    数据中心发展的颠覆性技术。   在DPU性能基准评测白皮书里,阐述了DPU在网络、存储、计算和信息安全四个领域的评测和实现方法,这也是DPU释放潜能的四大领域,同时它们恰恰又是
    发表于 10-18 15:09 800次阅读
    被称为<b class='flag-5'>数据中心</b>“第<b class='flag-5'>三</b>颗主力芯片”,<b class='flag-5'>DPU</b>凭什么?

    节能环保:NVIDIA BlueField DPU 提升数据中心效率

    与爱立信、Red Hat 和 VMware 合作进行的测试表明,NVIDIA BlueField DPU数据处理器)可使网络变得更快、更高效。 测试数据描绘出这样一幅美好图景:数据中心
    的头像 发表于 11-10 11:00 747次阅读

    DPU处理器在数据中心的作用是什么?

    CPU和GPU广泛应用于数据中心,它们非常昂贵,需要消耗大量电力,有时却被要求处理一些并不擅长的工作。   工欲善其事必先利其器,如果把CPU、GPU和DPU看成工具,使用CPU和GPU处理数据
    发表于 04-19 11:26 485次阅读

    DPU处理器在数据中心的作用是什么

    CPU和GPU广泛应用于数据中心,它们非常昂贵,需要消耗大量电力,有时却被要求处理一些并不擅长的工作。 工欲善其事必先利其器,如果把CPU、GPU和DPU看成工具,使用CPU和GPU处理数据
    的头像 发表于 04-19 15:44 1394次阅读
    <b class='flag-5'>DPU</b>处理器在<b class='flag-5'>数据中心</b>的作用是什么