0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

DPU:第三颗主力芯片 为CPU“减负”

架构师技术联盟 来源:架构师技术联盟 2023-07-27 10:55 次阅读

2020年,半导体行业圈有了新的热点——DPU(Data Processing Unit,数据处理器)。自被英伟达CEO黄仁勋称为“数据中心第三颗主力芯片”后,DPU就以惊人的速度崛起,成为整个行业甚至整个社会的关注重点。

到2023年,经过三年的发展,DPU呈现出新的格局:自研、初创DPU芯片发展突飞猛进,DPU应用开始逐渐落地,ChatGPT等AIGC应用对高算力的需求,进一步推动了DPU发展。

世界排名前五的芯片公司都在DPU赛道占位,DPU成了“兵家必争之地”。据赛迪顾问发布的数据,预计到2025年全球DPU产业市场规模将超过245.3亿美元(约1771亿人民币),DPU市场有望实现跳跃式增长,迎来黄金发展期。

2023年的DPU格局如何?未来如何发展?8月4日,北京将举行“第三届DPU峰会”,将有来自中国工程院、电信运营商、传统芯片厂商、初创公司等在内的30多位资深行业代表,分享国内外DPU最新进展与实践。

DPU:为CPU“减负”

人类发展经历了三次大分工,群居生活中,为了使群体更能生存下去需要加快工作效率,因而产生了分工。马克思主义认为,社会分工是生产力发展的结果,促进着生产力的发展

而缩小到计算机这一相对微观的视角,在冯诺依曼架构这一以计算和存储为核心、CPU居于中心地位的传统架构下,CPU作为“大管家”,统一调度所有基础资源:网络数据包收发过程中需要CPU参与协议栈的处理,GPU所处理的数据也需要CPU来协调。虚拟化、存储、网络、加解密、压缩解压…都要经过CPU处理。

f1c65698-2c0f-11ee-a368-dac502259ad0.png

(冯诺依曼架构)

但这并不总是效率最高的方式。CPU的定位是通用计算,在一些特定领域,CPU的效率远不及一些专用芯片,比如在I/O密集的应用场景中,智能网卡的数据传输效率更高。

随着生成式人工智能、数据科学、自动驾驶、元宇宙等新兴应用的加速落地,全球各行各业对大规模算力的需求急速攀升,算力正逐步成为新时代的核心生产力,CPU越来越难以负担一些复杂的计算,需要进行任务分工。

举个栗子。

从前有个冯诺依曼餐馆,刚开业时顾客少,只需要CPU一个员工即可,作为一个通用的CPU,他身兼数职,顾客点菜沟通——收银——做菜——传菜——收拾——备菜都是CPU完成,CPU一条龙处理贼顺畅!

随着店铺口碑建立顾客增多,CPU越来越忙。CPU的薪资是1.5万一个月,作为本店的大厨,其实他更擅长做菜,让他分时分力做小二的活计太浪费。并且有些顾客有特殊需求,需要有更多服务技巧的小二去接待,擅长做菜的CPU并没有用武之地。于是,冯诺依曼餐馆招了1名收银员DPU(3000元/月),专门负责点菜沟通和收银;招了1名店小二GPU(3500元/月),负责传菜、收拾和备菜。CPU发挥自己的特长,专注于菜品研制和做菜。这样一重新分工,餐馆的工作效率和服务质量蹭蹭提高,生意越来越好了!

f1db97b0-2c0f-11ee-a368-dac502259ad0.png

(CPU-DPU-GPU分工协作)

正如开餐馆一样,重新分工后,CPU负责整个IT生态的定义及处理通用计算任务,GPU负责数据并行的任务如图形图像、深度学习、矩阵运算等加速计算任务,DPU则承担起安全、网络、存储和AI等其它专用业务的加速处理。DPU与CPU、GPU地位平等,相互交互、相互协调来完成计算任务。DPU专门负责IO的处理和数据传输(点菜收银),这些以前由CPU处理的工作被卸载,让CPU可以专注于业务的计算(做菜),从而提升系统的整体效率。

f1f57db0-2c0f-11ee-a368-dac502259ad0.png

(DPU主要任务)

2023年DPU格局

2023年DPU赛道继续大热,芯片巨头、初创公司、云厂商、传统设备厂商纷纷开始发力DPU,推出新的产品或解决方案。

在DPU技术路线上,各家选择略有不同。DPU有ASICFPGA和SoC三种实现路径,在成本、编程简易性和灵活性方面各有利弊。业内人士透露,目前DPU主流的市场方案包括以Arm核为主的架构、FPGA+CPU架构,以及SoC架构,前两者已经在云计算厂商得到批量部署,整体看SoC方案则是今后的趋势。

DPU的主要场景是数据中心,潜在客户主要是云厂商。目前,包括阿里、腾讯等在内的大型公有云厂商,都通过自研或投资加入DPU赛道;私有云厂商需求复杂,DPU产品需要与业务场景紧密相关,谁能吃透客户业务场景、跟用户走得更近、谁的定制能力更强,机会就越大。

除数据中心以外,智能驾驶、数据通信、网络安全等也是DPU的下游应用领域。未来,智能驾驶每个车机节点都可视为小型数据中心,并将产生大量的数据处理、转发、交换和存储需求,每辆智能驾驶汽车都有望配备DPU。

总体而言,DPU目前尚处于起步阶段,但可以确定的是,未来数年内DPU市场在全球将是一片蓝海。当前国内外DPU厂商基本处于相同的发力节点,‍任重而道远,国内DPU厂商需要加强与云厂商、产业链上下游厂商等各方的深度合作,携手打造更好、更开放的DPU生态。






审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • SoC芯片
    +关注

    关注

    1

    文章

    587

    浏览量

    34765
  • DPU
    DPU
    +关注

    关注

    0

    文章

    350

    浏览量

    24048
  • 虚拟机
    +关注

    关注

    1

    文章

    889

    浏览量

    27840
  • 自动驾驶
    +关注

    关注

    781

    文章

    13475

    浏览量

    165374
  • ChatGPT
    +关注

    关注

    28

    文章

    1519

    浏览量

    7028

原文标题:2023直击DPU:“第三颗”主力芯片

文章出处:【微信号:架构师技术联盟,微信公众号:架构师技术联盟】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    IaaS+on+DPU(IoD)+下一代高性能算力底座技术白皮书

    数据中心的第三颗主力芯片”,主要通过其专用处理器优化数据中心的网络、存储、安全等处理性能,助力服务器运行效率显著提升,有效降低成本。因此,在新型数据中心建设时,围绕 DPU 构建数据
    发表于 07-24 15:32

    中科驭数发布第三DPU芯片K2 Pro,较上一代能耗降低30%

    基于该芯片的自研芯片架构和专用的指令集技术。   该公司表示,之所以发布一整套技术而非单芯片,是因为它们相互依赖、相互增强,共同构成了一个高效、灵活且功能强大的
    的头像 发表于 07-01 07:32 3275次阅读

    中科驭数发布高性能DPU芯片K2-Pro

    在信息技术领域,每一次芯片技术的突破都代表着行业的一次飞跃。近日,DPU领域的领军企业中科驭数宣布,成功研发并发布了其第三DPU芯片——“
    的头像 发表于 06-21 11:41 616次阅读

    重新定义DPU——中科驭数2024产品发布会,6月19日诚邀莅临!

    数据中心正经历着前所未有的变革,DPU作为数据中心第三颗主力芯片,正引领行业步入一个高效、灵活的算力新时代。 中科驭数在业内率先完成
    的头像 发表于 06-18 16:17 424次阅读

    “Spark+Hive”在DPU环境下的性能测评 | OLAP数据库引擎选型白皮书(24版)DPU部分节选

    在奇点云2024年版《OLAP数据库引擎选型白皮书》中,中科驭数联合奇点云针对Spark+Hive这类大数据计算场景下的主力引擎,测评DPU环境下对比CPU环境下的性能提升效果。特此节选该章节内容,与大家共享。
    的头像 发表于 05-30 16:09 347次阅读
    “Spark+Hive”在<b class='flag-5'>DPU</b>环境下的性能测评 | OLAP数据库引擎选型白皮书(24版)<b class='flag-5'>DPU</b>部分节选

    三颗LED低压并联照明电路LOWVOLTAGEP2SGEVB评估套件数据手册

    电子发烧友网站提供《三颗LED低压并联照明电路LOWVOLTAGEP2SGEVB评估套件数据手册.rar》资料免费下载
    发表于 04-15 15:56 0次下载
    <b class='flag-5'>三颗</b>LED低压并联照明电路LOWVOLTAGEP2SGEVB评估套件数据手册

    三颗LTM4702并联空载缓慢发热,同时在缓慢发热的过程中设计输出电压缓慢降低的原因?

    1.8MHz,第二第三颗<80%1.4MHz,三颗相位120°, 设置了快速启动PGSET引脚电阻499K。基本参数如此,因为在我之前设计LT8640S等电源中空载并未有发热和电压
    发表于 03-06 06:06

    澜起科技:DDR5第三子代RCD芯片将随新一代CPU平台规模出货

    澜起科技近日在接受机构调研时分享了关于DDR5内存子代RCD芯片的最新动态。据澜起科技预测,DDR5第二子代RCD芯片的需求将在2024年超过第一子代RCD芯片。更进一步,DDR5第三
    的头像 发表于 02-02 10:27 738次阅读

    星Galaxy S24+搭载Exynos 2400芯片CPU性能提升1.7倍,AI处理能

    据了解,Exynos 2400 CPU包含一主频高达 3.2 GHz的Cortex-X4、两主频 2.9 GHz的Cortex-A720以及
    的头像 发表于 01-18 09:54 761次阅读

    《数据处理器:DPU编程入门》DPU计算入门书籍测评

    一、DPU计算框架 通过一周多的时间翻阅这本书,基本上这本书是一本比较全面的,面向架构的新手指导数据。它在书中详尽介绍了关于DPU在计算机架构中的应用。 对于DPU来说,是一种平行于CPU
    发表于 12-24 10:54

    《数据处理器:DPU编程入门》读书笔记

    ,让用户可以不用关注DPU的底层硬件接口而直接对硬件进行编程。 此外,DPU是数据中心基础架构的处理芯片,预测至少30%的CPU资源用于执行数据中心基础设施架构,而这些任务都可以卸载到
    发表于 12-21 10:47

    浅谈DPUCPU、GPU的关系

    CPU的一大部分算力卸载给GPU之后,人们发现可以把很多其他功能也外包出去,于是又有了智能网卡,或者叫做DPU
    发表于 12-14 11:44 692次阅读
    浅谈<b class='flag-5'>DPU</b>和<b class='flag-5'>CPU</b>、GPU的关系

    什么是DPU

    和服务器内,CPU和GPU已经被广泛地用于各个新型超大规模数据中心。 这些数据中心通过功能强大的新型处理器连接在一起,DPU( Data Processing Unit ,数据处理器)已经成为了以数据
    发表于 11-03 10:55

    【书籍评测活动NO.23】数据处理器:DPU编程入门

    资格! “DPU将是未来计算的大支柱之一。CPU用于通用计算,GPU用于加速计算,而DPU在数据中心移动数据,进行数据处理。” ——NVIDIA 创始人兼首席执行官黄仁勋于 GT
    发表于 10-24 15:21

    求助,GPS定位到三颗星为什么还不能实现定位?

    GPS定位到三颗星为什么还不能实现定位?
    发表于 10-16 06:58