0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

ChatGPT高算力推动DPU步入快车道,国产DPU蓄势待发

Robot Vision 来源:电子发烧友网 作者:李宁远 2023-03-12 06:53 次阅读

电子发烧友网报道(文/李宁远)OpenAI旗下的智能聊天机器人程序ChatGPT自去年年末发布后,在全球范围内掀起了人工智能热潮,热度持续至今。ChatGPT超出人们预期的智能化表现也带火了相关人工智能产业链。

ChatGPT的GPT,本质是生成型预训练变换模型,这种AI模型经过海量的数据训练,才有了高质量的内容输出。ChatGPT的出现,离不开背后庞大的基础算力做支持。高度依赖AI计算能力的ChatGPT也推高了算力需求。

爆火的ChatGPT,高算力需求推动DPU发展

随着众多国内外厂商入局智能聊天机器人行业的竞争,可以预见市场上类似于ChatGPT的机器人程序会如雨后春笋一般冒出来,而全球对于算力的需求也将随着此类技术应用的铺开出现快速的增长。

数据处理芯片DPU,被认为是继 CPUGPU 之后的 “第三颗主力芯片”。DPU是最近几年发展起来的专用处理器大类,是继CPU、GPU之后数据中心场景中重要的算力芯片,能够为高带宽、低延迟、数据密集的计算场景提供计算引擎,是未来处理超算流量和安全网络存储的核心硬件

DPU市场现在处于百家争鸣的早期发展阶段,各厂商给出的定义有略有不同,这里选择市场上比较主流的英伟达给出的定义,“DPU是集数据中心基础架构于芯片的通用处理器,结合了标准的、高性能及软件可编程的多核CPU,与其它的SoC组件密切配合。同时结合了高性能网络接口,能以线速或网络中的可用速度解析、处理数据,并高效地将数据传输到GPU和CPU”。

相比于CPU和GPU典型的冯诺依曼架构,基于数据流驱动技术的DPU采用的是非冯诺依曼架构,不需要结束一阶段的计算任务后将数据输送到外部的DDR计数器存储,而是可以利用软件可动态重构处理器CGRA技术,合理分配和使用算力的同时,节约数据存储和传输带宽。当CPU算力达到瓶颈,DPU能够帮助CPU卸载低效应用的算力,当GPU专注数据加速计算,DPU可以帮助进行数据解析和处理提高数据接发效率。

在ChatGPT高算力需求的推动下,DPU开始进入发展快车道。

DPU市场将迎来爆发式增长,国产DPU蓄势待发

根据据赛迪顾问《中国DPU行业发展白皮书》对全球以及中国DPU市场的统计,预计到2025年全球DPU产业市场规模将超过245.3亿美元,复合增速达51.73%。而中国市场预计到2025年DPU产业规模将超过565.9亿元,复合增速达170.6%。

白皮书中特别提到,中国DPU市场在2022-2023年将会有爆发式的增长,而全球市场的爆发式增长阶段将会出现在2023-2024年。

DPU在行业内其实早已有了雏形,早在2013年,Amazon就研发过一款名为Nitro的轻量化Hypervisor配合定制化硬件,能将虚拟机的计算和 I/O子系统分离开来。直到2020年英伟达将基于Mellanox的Smart NIC命名为DPU并将其定位为继CPU和GPU之后数据中心的“第三颗主力芯片”,才算真正走到大家眼前被重视起来并掀起行业热潮。

根据赛迪顾问《中国DPU行业发展白皮书》中的数据,2020年国内的DPU市场仅有3.9亿元。而到了2021年,国内市场规模迅速发展到75.3亿元,可见这一赛道的火热。

从目前入局的厂商来看,英伟达、IntelAMD、Marvell、Broadcom、Amazon、Microsoft等国际厂商在近年来都有DPU或相似架构产品发布,入局早具备一定的先发优势,在底层能力上无疑要领先国内厂商。

国内华为,阿里等老牌厂商也在近几年针对服务器需求自研DPU,主要功能偏向于数据,存储与安全方面。同时国内还有一批初创企业加入了DPU赛道,如云豹智能、星云智联、芯启源、云脉芯联、中科驭数、大禹智芯等。

主要DPU厂商动态

英伟达:先进BlueField系列占据行业高点

在全球DPU市场,英伟达占据了超半数市场份额。目前英伟达的BlueField系列DPU已经发展至第三代,BlueField-3 是首款以线速处理软件定义网络、存储和网络安全的 DPU,速度可达400 Gb/s。BlueField-3可以搭载最多16个Armv8.2+ A78 Hercules核心,包含220亿个晶体管,拥有16GB板载DDR5显存,能够在I/O路径中提供强大的计算能力和多种可编程加速引擎。相比BlueField-2系列8 颗ARM A72 CPU 内核,处理性能提升了近10倍。

而BlueField-4根据英伟达官方消息,有望在2024年推出。除此之外,英伟达还将DPU与 Ampere架构的强大功能结合成融合加速器,进一步为AI驱动的工作负载带来出色的性能和强大的安全性。

英特尔:预计2024年推出400G IPU,2025年推出800G IPU

英特尔的IPU被业界视为英特尔版本的DPU,同样可以加速网络基础设施,释放CPU内核,实现应用程序性能的提升。E2000是目前英特尔处理性能最高的IPU,是英特尔利用从多代FPGA SmartNIC 中积累的经验和谷歌共同设计的,拥有多达16个Arm Neoverse N1核心,具备高度可编程性的数据包处理引擎。

从去年Intel Vision 2022大会上公布的最新的IPU路线图来看,2024年400 Gbps IPU有望面世,800G IPU则定在2025年。

芯启源:布局下一代7nm以下DPU产品

芯启源是目前国内唯一一家能够提供基于SoC架构的国产化25G智能网卡的供应商,已经推出了量产的DPU芯片4000及3800系列产品,并且已实现商业化落地。芯启源的下一个布局是7000系列DPU,根据相关信息,下一代DPU芯片将采用7nm以下工艺,能达到400G的吞吐量,具有600Mpps,RDMA/RoCEv2,国密SM3/SM4等的功能及性能。

星云智联:实力强劲的国内初创DPU芯片公司

星云智联是一家专注于数据中心通信互联架构、DPU芯片和解决方案研发的国内初创公司,其自主研发的NebulaX D1055AS是一款50G DPU芯片。NebulaX D1055AS在高速数据转发上,以纯硬件方式实现对数据流处理,以获得高吞吐量和低延时性能,在国内DPU赛道上有着强劲的实力。

云豹智能:DPU SoC有望今年量产

云豹智能主张软件定义芯片,此前发布过基于FPGA版本的DPU云霄,在可编程性上非常灵活。目前云豹智能的第一款DPU SoC正在设计研发阶段,根据相关消息,该DPU SoC有望在今年量产。

中科驭数:基于自研KPU架构布局DPU

中科驭数的KPU架构是基于中科驭数首创的软件定义加速器技术路线而研发的领域专用技术芯片架构,并基于该架构打造了首个拥有网络数据库一体化加速功能的DPU芯片,能提供高效能的算力支撑。在目前的产品进度上,根据相关报道,第三代12nm 400G DPU芯片的研发迭代已近尾声。

写在最后

DPU的诞生就是为了应对数据量以及计算复杂性的指数级增长,在ChatGPT将算力需求再推上一个新台阶后,DPU有力支撑起了算力效率的提升,在原本火热的市场里又一次加快了发展速度。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • DPU
    DPU
    +关注

    关注

    0

    文章

    347

    浏览量

    24048
  • 算力
    +关注

    关注

    1

    文章

    846

    浏览量

    14583
  • ChatGPT
    +关注

    关注

    28

    文章

    1519

    浏览量

    7012
收藏 人收藏

    评论

    相关推荐

    中科驭数分析DPU在云原生网络与智网络中的实际应用

    的探索与实践”专题论坛,业内DPU专家们将讨论焦点锁定在了DPU在云原生网络与智网络中的实际应用,深入探讨了如何利用DPU技术解决计算系统级问题,进一步
    的头像 发表于 08-02 11:21 525次阅读

    IaaS+on+DPU(IoD)+下一代高性能力底座技术白皮书

    DPU 是当下力基础设施的核心创新之一。如果把 CPU 比做大脑,那么 GPU 就好比是肌肉,而 DPU 就是神经中枢。CPU 承载了应用生态,提供了通用型力;GPU 提供了高密
    发表于 07-24 15:32

    中科驭数:DPU是构建高效智中心基础设施的必选项

    先生在《基于DPU的高效智中心算力底座》主题分享中提出,大模型等智业务推动力需求规模快速增长,CPU+GPU+
    的头像 发表于 07-08 10:51 557次阅读

    DPU技术赋能下一代AI力基础设施

    4月19日,在以“重构世界 奔赴未来”为主题的2024中国生成式AI大会上,中科驭数作为DPU新型力基础设施代表,受邀出席了中国智中心创新论坛,发表了题为《以网络为中心的AI力底
    的头像 发表于 04-20 11:31 692次阅读

    明天线上见!DPU构建高性能云力底座——DPU技术开放日最新议程公布!

    力,是数字经济时代的新质生产力。随着人工智能、智中心建设等需求不断拓展,DPU在各行各业数据中心的应用逐步深入。异构力代表DPU在新质
    的头像 发表于 04-03 18:12 912次阅读

    《数据处理器:DPU编程入门》DPU计算入门书籍测评

    来说,DPU的需求也越来越大,大量边缘计算的力需求在飙升,边缘数据预测,边缘决策,边缘图像识别,一个个需求都在暴增着未来Xlinx的业务肯定是会增长的,当然,有了国产替代就不一定了。 2、云计算 在云计算
    发表于 12-24 10:54

    《数据处理器:DPU编程入门》读书笔记

    。以DPU为技术代表的新力架构,正在重新定义数据中心和云原生技术的基础架构。 DPU的出现,是随着数据中心的高速发展,通信能力和计算能力成为数据中心基础设施的相辅相成的两个重要发展方向。若数据中心仅
    发表于 12-21 10:47

    浅谈DPU和CPU、GPU的关系

    把CPU的一大部分力卸载给GPU之后,人们发现可以把很多其他功能也外包出去,于是又有了智能网卡,或者叫做DPU
    发表于 12-14 11:44 681次阅读
    浅谈<b class='flag-5'>DPU</b>和CPU、GPU的关系

    《数据处理器:DPU编程入门》+初步熟悉这本书的结构和主要内容

    dpu:推出的主要意义是为了减轻CPU的数据处理负担,使得cpu可以更具专注自己的通用计算处理运算。 1、DPU数据处理器,演进的核心驱动力是什么? 计算工作负载的不断增长是DPU演进的核心驱动力
    发表于 12-08 18:03

    DPU国产生态版图又双叒扩大了!

    DPU 朋友圈迎来 30+ 新伙伴! 近期, 中科驭数已与联想、中科可控、 统信 、欧拉 、龙蜥社区 、新支点、 亚信科技、人大金仓、瀚、南大通用、 Gr eatSQL、阿里云、曙光云等超30家
    的头像 发表于 11-03 11:20 400次阅读
    <b class='flag-5'>DPU</b><b class='flag-5'>国产</b>生态版图又双叒扩大了!

    什么是DPU

    什么是DPU? 相信很多人对于CPU(中央处理器)已经非常熟悉了。灵活、响应迅速的CPU多年来一直是大多数计算机中唯一的可编程元件。 近年来,GPU(图形处理单元)逐渐成为了计算的中心。最初GPU
    发表于 11-03 10:55

    解码 DPU 编程,投稿赢取好礼!

    NVIDIA 发布首部 DPU 和 DOCA 编程入门书籍 前不久 NVIDIA 推出了备受业界好评的首部 DPU 处理器编程入门书籍 —— 《数据处理器:DPU 编程入门》 ,许多读者纷纷留言
    的头像 发表于 11-01 20:25 343次阅读
    解码 <b class='flag-5'>DPU</b> 编程,投稿赢取好礼!

    【书籍评测活动NO.23】数据处理器:DPU编程入门

    资格! “DPU将是未来计算的三大支柱之一。CPU用于通用计算,GPU用于加速计算,而DPU在数据中心移动数据,进行数据处理。” ——NVIDIA 创始人兼首席执行官黄仁勋于 GTC 2020
    发表于 10-24 15:21

    NVIDIA 发布首部 DPU 和 DOCA 编程入门书籍(互动有礼)

    为使用 NVIDIA BlueField 系列 DPU 和 NVIDIA DOCA 开发环境的开发者提供实用指南 NVIDIA 今日宣布,由 NVIDIA 撰写的 《数据处理器:DPU 编程入门
    的头像 发表于 10-18 16:05 364次阅读
    NVIDIA 发布首部 <b class='flag-5'>DPU</b> 和 DOCA 编程入门书籍(互动有礼)

    NVIDIA 发布首部 DPU 和 DOCA 编程入门书籍

    为使用NVIDIA® BlueField® 系列  DPU 和 NVIDIA DOCA™ 开发环境的开发者提供实用指南   北京时间 2023 年 10 月 17 日,NVIDIA 今日宣布,由
    发表于 10-18 11:34 299次阅读
    NVIDIA 发布首部 <b class='flag-5'>DPU</b> 和 DOCA 编程入门书籍