4月19日,在以“重构世界 奔赴未来”为主题的2024中国生成式AI大会上,中科驭数作为DPU新型算力基础设施代表,受邀出席了中国智算中心创新论坛,发表了题为《以网络为中心的AI算力底座构建之路》主题演讲,勾勒出在通往AGI之路上,DPU技术赋能下一代AI算力基础设施中的关键作用。
算力是当前人工智能领域发展的关键,是AI时代的“面包”。要训练百万亿参数超大预训练模型,算力基础设施架构优化是提升算力的首要步骤。当前,DPU算力基础已经发展迭代了4到5年,算力领域对DPU的期望和需求已经涵盖计算、网络、存储、安全等多个领域。
中科驭数旨在通过DPU将计算加速、存储加速、网络加速、安全加速及云原生加速等基础设施层深度整合,构建高性能、高集成的AI服务基础架构。公司已基于此打造出涵盖云原生DPU软硬一体加速、RDMA/RoCE AI计算网络、NVMe-oF高性能存储、灵活存算分离架构、DPU硬件级安全隔离以及数据中心资源池化与统一调度的丰富产品矩阵与解决方案,不仅仅能够助力AI算力底座的整体性能提升,也为用户提供了更高效更完整的基础设施解决方案,有力支撑各类AI应用的快速发展。
以中科驭数自研FLEXFLOW-2100R RDMA加速DPU卡为例,该加速卡产品能够将高性能、稳定性、便捷性和通用性融为一体,提供2x100GbE网口的连接能力,支持RoCEv2的硬件卸载能力以及无损网络能力,为国产化业务场景提供微秒级时延和百G带宽的RDMA网络环境,为用户提供灵活和高性能的网络解决方案。同时,适配市面上所有主流支持无损网络的交换机,以及国内外主流服务器和操作系统,可以快速接入现有RDMA网络环境。经实测,KPU FLEXFLOW-2100R在4K以下小文件send、read、write测试场景中,时延数据均在5us以下,最低可达3us,优于国内外主流RDMA智能网卡性能水准。
需要看到的是,随着AI向更多领域渗透,对基础设施的需求将更加多元化、智能化。同样,DPU的成功落地和使用需要经过精心设计和打磨,以满足整个基础设施领域的多样需求。中科驭数将继续秉持着技术创新和开放合作的理念,欢迎服务器厂商、CPU/GPU厂商、操作系统厂商等上下游合作伙伴加入驭数DPU生态,共同推动AI算力底座的发展。
审核编辑:刘清
-
交换机
+关注
关注
21文章
2662浏览量
100262 -
DPU
+关注
关注
0文章
369浏览量
24297 -
人工智能
+关注
关注
1797文章
47901浏览量
240923 -
RDMA
+关注
关注
0文章
78浏览量
8990 -
生成式AI
+关注
关注
0文章
518浏览量
567
原文标题:通往AGI路上,DPU将如何构建生成式AI时代的坚实算力基石?
文章出处:【微信号:yusurtech,微信公众号:驭数科技】欢迎添加关注!文章转载请注明出处。
发布评论请先 登录
相关推荐
算力再跃升!亿万克发布新一代AI服务器——G882N7+!
IaaS+on+DPU(IoD)+下一代高性能算力底座技术白皮书
国科微AI首席科学家邢国良:打造全系边端AI芯片,赋能下一代自动驾驶
![国科微<b class='flag-5'>AI</b>首席科学家邢国良:打造全系边端<b class='flag-5'>AI</b>芯片,<b class='flag-5'>赋</b><b class='flag-5'>能</b><b class='flag-5'>下一代</b>自动驾驶](https://file1.elecfans.com//web2/M00/FA/2D/wKgZomaMsBCACxtcABGh23WJg4k394.png)
中科驭数:DPU是构建高效智算中心基础设施的必选项
联想全栈算力基础设施发布 跻身中国第一阵营再启新程
![联想全栈<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>基础设施</b>发布 跻身中国第<b class='flag-5'>一</b>阵营再启新程](https://file1.elecfans.com/web2/M00/EE/F9/wKgZomZvngaAdlf_AAAYPy6Cy2A117.jpg)
评论