0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

DPU赛道火热,初创公司赢面更大?

E4Life 来源:电子发烧友网 作者:周凯扬 2022-03-04 07:25 次阅读

上回我们提到了SmartNIC,以及这种智能网卡对于数据中心来说究竟起到了何种举足轻重的作用。然而,在英伟达于2020年提出DPU(data processing units)数据处理单元这一概念后,DPU成了数据中心市场竞相追逐的新潮流。英特尔也随即推出了对应的产品,并将其命名为IPU。DPU成了数据中心里除了CPUGPU之外的第三大处理单元。

通常这些DPU具备高速网络连接性,其作用说起来很简单,那就是优化数据中心里数据的移动,而CPU和GPU则专注于计算,从而腾出性能用于其他价值更高的工作。云原生的应用使得数据中心的网络流量呈现了爆发式增长,与此同时网络攻击的频率和复杂度也在不断提高。早期解决这些问题的思路不少,用FPGA、PCIe交换机或是SmartNIC,然而这些方案其实并没有根绝这些问题,比如SmartNIC主要用于网络卸载,反倒是DPU带来了一线光明,提供了网络、存储和安全栈的全面卸载。

不过DPU这条赛道,除了英伟达和英特尔这样的大厂之外,也有不少初创企业发现了机遇,比如软银投资了两亿美元的Fungible,以及由一众前Cisco工程师们成立的Pensando。

Fungible:800Gbps的含金量

要论DPU最关键的性能,自然还是网络连接的速度,而最快的速度还得看Fungible的F1 DPU。Fungible的F1 DPU是业内第一个800Gbps的DPU,也是FungibleDPU系列的旗舰产品,足以应对目前最严苛的数据中心环境。

F1 DPU / Fungible

在架构上,F1 DPU集成了大量的多核处理器,52个核心均为最新一代的MIPS64 R6内核,不仅支持硬件虚拟化也将其分为独立的控制单元。F1 DPU采用了双发射流水线设计,配有64KB的L1 I-cache和80KB的L1 D-Cache,且L1缓存支持缓存之间的数据传输,总计片上L2缓存达到32MB。内存方面,F1 DPU除了集成8GB的HBM外,还支持双通道每通道最高512GB的DDR4内存。

利用了独特的硬件与软件结合设计,在不影响数据中心计算能效的前提下,F1 DPU提供了最大的功能灵活性。这使得F1 DPU可以用于高性能密度和低时延的环境,比如存储(NVMe/TCP存储卸载)、安全、AI/ML(GPU解耦)和数据分析服务器(OLAP、OLTP大数据分析引擎)。以存储为例,在无需x86 CPU和AFA的存储系统中,F1 DPU可以做到15M IOPS的表现,而这里的带宽限制完全是来自于PCIe本身的带宽限制。

英伟达:灵活的命名人

接着我们来看看“命名人”自己的DPU产品。英伟达的BlueField2同样是排名前列的DPU之一,而且在收购了Mellanox之后,英伟达在连接性上的开发实力更强了。BlueField2结合了ConnectX-6网络适配器和8个64位的Armv8A72核心,板载16GB/32GB的DDR4内存。在连接性上,BlueField2支持双端口的10/25/50/100 Gb/s,或是单端口的200Gb/s。接口方面,BlueField2既支持16lanePCIe4.0也支持自家的InfiniBand。

单从参数上来看,BlueField2不比Fungible的F1 DPU,但BlueField2并非英伟达的杀手锏,真正的杀手锏是第三代BlueField3。

BlueField3 / 英伟达

与第二代产品相比,BlueField3可以说经历了彻头彻尾的升级。1/2/4端口的配置支持到400Gb/s的连接性,这400Gb/s的连接性既可以通过以太网实现,也可以通过NDR Infiniband实现。此外,在计算规模上,BlueField3也终于下了大手笔,换成了16核Armv8.2+的A78核心,配以8MB的L2缓存和16MB的LLC系统缓存。

BlueField3的内存更是紧跟最新的技术,直接用到了32 lane的PCIe5.0,集成了两个DDR5 5600MT/s的DRAM控制器和16GB的板载DDR5内存。尽管在连接性上还是比Fungible的F1 DPU要差一筹,但BlueField3提供了更多的尺寸选项既有HHHL半高半长也有FHHL全高半长,英伟达也提供了M.2和U.2的连接器用于直接连接存储,这对于既追求高性能又追求机房部署灵活性的数据中心来说,明显更有吸引力。

小结

从Fungible和英伟达在各自DPU产品的对比上来看,初创企业与传统大厂相比未必没有一战之力,这样后来者居上的趋势在数据中心处理器、AI芯片等新产品形态上屡见不鲜。但追求极致依然在这个市场站稳脚跟的最佳方式,毕竟对于云服务厂商的数据中心来说,虽然他们提供了各种等级的云服务,但那些企业级的服务才是最大的利润增长点。即便他们没有实力自研DPU,在第三方DPU的选择上也不会吝啬的。下一回我们再来谈谈国产DPU厂商在这个赛道上的进展。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英特尔
    +关注

    关注

    60

    文章

    9886

    浏览量

    171502
  • DPU
    DPU
    +关注

    关注

    0

    文章

    354

    浏览量

    24127
  • SmartNIC
    +关注

    关注

    0

    文章

    19

    浏览量

    3202
收藏 人收藏

    评论

    相关推荐

    初创公司借助NVIDIA Metropolis和Jetson提高生产线效率

    初创公司使用 NVIDIA Metropolis 视觉 AI 和 Jetson 边缘 AI 平台提高生产线效率。
    的头像 发表于 11-19 14:39 114次阅读

    纯血鸿蒙,新赛道

    纯血鸿蒙,新赛道!对于像我这样的大龄程序员,可以尝试一下。大家都是在同一起点上,以前积累的经验成了优势!不管结果如何,干就是了,重要的是参与进来。
    发表于 11-07 11:27

    NVIDIA助力初创公司Wayve开发创新自动驾驶技术

    初创公司 Wayve 开发出能够在动态真实环境中做出决策的自动驾驶技术。
    的头像 发表于 10-10 09:39 323次阅读

    AI初创公司寻求科技巨头“接盘”

    在人工智能领域的激烈竞争中,众多初创公司曾风光无限,去年筹集了巨额资金,梦想成为科技浪潮中的璀璨明星。然而,随着市场冷却与竞争加剧,不少公司面临生存困境,纷纷将目光投向硅谷的科技巨头,寻求“接盘”机会。
    的头像 发表于 09-26 14:35 293次阅读

    IaaS+on+DPU(IoD)+下一代高性能算力底座技术白皮书

    、VMware、Palo Alto 等公司纷纷推出相关解决方案。这些方案背后共同的本质思想是:将云计算的 IaaS 层组件从服务器侧卸载后围绕 DPU 构筑高性能算力底座,与 AWS、阿里云的技术路线不谋而合
    发表于 07-24 15:32

    英伟达收购软件初创公司Shoreline

    近日,全球知名的图形处理器制造商英伟达(NVIDIA)宣布了一项重要的收购计划,将以约1亿美元的价格收购软件初创公司Shoreline。这次收购不仅体现了英伟达在持续扩展其业务范围和技术领域的决心,也预示着未来软件开发和运维领域的新变革。
    的头像 发表于 06-21 11:08 558次阅读

    气候技术初创公司将NVIDIA AI集成到可持续发展应用中

    “可持续未来”倡议(Sustainable Futures initiative)支持初创公司为气候、清洁能源、可持续基础设施等领域构建加速计算应用。
    的头像 发表于 05-08 09:29 316次阅读
    气候技术<b class='flag-5'>初创</b><b class='flag-5'>公司</b>将NVIDIA AI集成到可持续发展应用中

    英国自动驾驶技术初创公司Wayve宣布成功筹集了10.5亿美元的资金

    近日,英国自动驾驶技术初创公司Wayve宣布,已成功筹集了10.5亿美元的资金,本轮融资由软银集团领投。
    的头像 发表于 05-08 09:15 454次阅读

    明天线上见!DPU构建高性能云算力底座——DPU技术开放日最新议程公布!

    算力,是数字经济时代的新质生产力。随着人工智能、智算中心建设等需求不断拓展,DPU在各行各业数据中心的应用逐步深入。异构算力代表DPU在新质生产力建设中,能否给出别开生面的答案,应战算力难题?DPU
    的头像 发表于 04-03 18:12 976次阅读

    NVIDIA携手初创公司引领气候AI创新

    在应对气候变化这一全球性挑战时,AI与可持续计算正成为关键工具。NVIDIA初创加速计划的成员公司Tomorrow.io、ClimaSens和north.io,均专注于极端天气预测领域,致力于推动全球气候行动。
    的头像 发表于 03-27 10:29 369次阅读

    大模型初创公司MiniMax估值超25亿美元

    近日,据业内消息人士透露,阿里巴巴集团已经领投了中国AI初创公司MiniMax的新一轮融资,此次融资后,MiniMax的估值已经飙升至超过25亿美元,显示出市场对该公司的高度认可与期待。
    的头像 发表于 03-07 10:39 1404次阅读

    谷歌DeepMind科学家欲建AI初创公司

    据知情人士透露,谷歌人工智能部门DeepMind的两名杰出科学家Laurent Sifre和Karl Tuyls正在与投资者商讨在巴黎成立一家新的人工智能初创公司的事宜。
    的头像 发表于 01-22 14:41 457次阅读

    《数据处理器:DPU编程入门》DPU计算入门书籍测评

    一、DPU计算框架 通过一周多的时间翻阅这本书,基本上这本书是一本比较全面的,面向架构的新手指导数据。它在书中详尽介绍了关于DPU在计算机架构中的应用。 对于DPU来说,是一种平行于CPU和GPU
    发表于 12-24 10:54

    《数据处理器:DPU编程入门》读书笔记

    首先感谢电子发烧友论坛提供的试读机会。 第一周先阅读了DPU的技术发展背景,了解到DPU是结合了高性能及软件可编程的多核CPU、高性能网络接口,以及各种灵活和可编程的加速引擎。DPU的主要作用是卸载
    发表于 12-21 10:47

    《数据处理器:DPU编程入门》+初步熟悉这本书的结构和主要内容

    ,并提高系统的响应速度和隐私保护。 4. 高性能计算:DPU可以在高性能计算领域中使用,例如科学研究、天气预报、金融模拟和大规模数据处理等。它可以提供更大的并行性和计算能力,加速复杂计算任务的执行。 3
    发表于 12-08 18:03