9月15日,2023全球AI芯片峰会(GACS 2023)在深圳举行,聚集了全球AI芯片产业的领军者和中坚力量,共探AI芯片的求新、求变、求索之径。中科驭数高级副总裁张宇应邀在智算中心算力与网络高峰论坛发表题为《基于DPU的高效AI大模型算力底座》的重要演讲。
▲中科驭数高级副总裁张宇受邀发表重要演讲 随着人工智能从高端科研领域向人们日常工作生活推进,传统数据中心都在向智算中心演进。DPU提供智算中心所必须的大带宽和低时延能力,使更多的CPU/GPU算力真正服务于业务,从而为新型的智算中心提供了更高效的算力底座,成为智算中心必备的核心组件。张宇在演讲中介绍,在处理大规模数据和复杂任务时,传统算力集群往往面临性能限制,受到单节点算力瓶颈和集群效率瓶颈的双重挑战。中科驭数基于DPU的AI算力底座,充分利用了DPU异构计算加速能力,并结合自研DOE的算子卸载技术,以及基于RDMA实现数据处理集群的算网融合加速,有效破解了分布式环境下数据处理集群难题,DPU算子性能提升15倍,数据集群整体性能提升2-5倍,计算性能显著提升,实现降本增效。中科驭数的DPU技术创新给算力基础设施层革新带来重大突破,在AI产业链中扮演着关键角色,拥有广阔的应用前景。就在昨天北京经信局最新发布的《AIGC产业链北京市专精特新企业图谱》中,中科驭数作为算力层代表性企业之一成功入选。北京市经济和信息化局中小企业处处长杨靖国指出,这些专精特新企业致力于突破算力芯片、中文数据集、深度学习框架等领域的卡点和堵点,为AIGC产业链强链、补链、固链贡献力量,推动中国AIGC行业高质量发展。 未来,中科驭数也将继续致力于推动DPU软硬件技术的创新,期待在未来能够携手产业链上下游合作伙伴,实现更多突破性的技术应用,为AI应用的遍地开花做出贡献,共同推动AI领域的持续性发展。
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。
举报投诉
-
中科驭数
+关注
关注
0文章
118浏览量
3985
原文标题:加速AI应用“遍地开花”,中科驭数基于DPU的算力底座方案亮相2023全球AI芯片峰会
文章出处:【微信号:yusurtech,微信公众号:驭数科技】欢迎添加关注!文章转载请注明出处。
发布评论请先 登录
相关推荐
算力大模型持续火热谁来为智算中心降降温
瓦时,相当于同期三峡电站累计发电量的两倍以上。“双碳”目标下,数据中心的“高算效、低能耗”发展已是大势所趋。 遍地开花 AI计算正“热辣滚烫” 生成式AI的爆发推动了基于
中科驭数分析DPU在云原生网络与智算网络中的实际应用
CCF Chip 2024,精彩不能停!7月21日下午,中科驭数在第二届中国计算机学会(CCF)芯片大会的“驭
IaaS+on+DPU(IoD)+下一代高性能算力底座技术白皮书
、VMware、Palo Alto 等公司纷纷推出相关解决方案。这些方案背后共同的本质思想是:将云计算的 IaaS 层组件从服务器侧卸载后围绕 DPU 构筑高性能算
发表于 07-24 15:32
中科驭数:DPU是构建高效智算中心基础设施的必选项
日前,在江苏省未来网络创新研究院、网络通信与安全紫金山实验室举办的“2024智算网络技术与应用创新峰会”上,中科驭数作为
中科驭数发布第三代DPU芯片K2 Pro,较上一代能耗降低30%
基于该芯片的自研芯片架构和专用的指令集技术。 该公司表示,之所以发布一整套技术而非单颗芯片,是因为它们相互依赖、相互增强,共同构成了一个高效、灵活且功能强大的DPU解决
中科驭数发布高性能DPU芯片K2-Pro
在信息技术领域,每一次芯片技术的突破都代表着行业的一次飞跃。近日,DPU领域的领军企业中科驭数宣布,成功研发并发布了其第三代
明天线上见!DPU构建高性能云算力底座——DPU技术开放日最新议程公布!
技术在不同行业中的应用解决方案有哪些?能带来怎样的业务效果? 3月29日本周五,中科驭数集结产品大咖及解决方案专家团,诚邀您参加以“
中科驭数自研第二代DPU芯片K2获得行业认可
近日,中科驭数自研第二代DPU芯片K2在众多云生态创新应用技术产品中脱颖而出,成功入选由中国云产业联盟暨中关村云计算产业联盟发布的“
评论