0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

千卡算力破局:科通技术以"AI大模型+AI芯片"重构智算底座

科技见闻网 来源:科技见闻网 作者:科技见闻网 2025-03-17 11:14 次阅读

2025年,随着DeepSeek大模型的开源迭代,AI技术云计算领域的应用加速渗透,市场对高性能AI芯片的需求迎来爆发式增长。作为AI算力供应链的核心供应商,深圳市科通技术股份有限公司(以下简称“科通技术”)推出的“DeepSeek+AI芯片”全场景方案,在云AI领域取得重大突破。除了GPU的算力总量,云AI的一大挑战来源于GPU集群的数据互联效率。某大型互联网集团为解决云AI系统中千卡级GPU集群的高性能需求,面临服务器与加速卡间数据交换带宽和延迟的严苛挑战。科通技术联合全球顶尖设备原厂,基于Infiniband技术打造了叶-脊(Leaf-Spine)架构的服务器网络集群方案,成为云场景算力升级的标杆案例。

Infiniband技术是一种高性能的计算机网络技术,它在数据传输方面具备高带宽、低延迟的显著优势,能够快速处理大量数据,满足AI计算对数据传输速度的严苛要求。而叶-脊架构是一种常用于数据中心网络的拓扑结构,相较于传统网络架构,它有着更高的扩展性和更低的网络延迟,非常适合大规模集群的应用场景。

在技术细节上,科通技术采用高性能服务器CPU与高端GPU卡的组合,通过芯片级优化实现千块GPU卡池的高带宽、低延时数据交换。方案设计中,叶-脊架构的网络拓扑不仅满足了当前千卡级集群的数据吞吐需求,还通过预留充足的接口容量支持未来业务扩展,确保系统具备长期适应性。此外,科通技术为集群配置了100G/200G/400G高速网卡及智能网关设备。经测试,与传统方案相比,该方案可提供3.2倍以上数据交换吞吐量,不仅使AI推理效率提升了15%以上,还降低36%的功耗。这一方案的成功实施,科通在高速网络设备业务的显著提升直接带动了科通技术代理的各原厂专业GPU、服务器CPU及相关存储产品的销量增长。

在市场成效方面,该案例不仅帮助客户实现了大参数模型(如千亿级参数)的高并发训练与推理应用指标,还推动了科通技术在云AI基础设施领域的深度布局。通过代理全球80余家芯片原厂的核心产品,科通技术构建了覆盖云端训练、推理、存储、网络的全栈芯片矩阵,能够为不同规模客户提供定制化解决方案。随着DeepSeek大模型对算力需求的持续攀升,云场景的AI芯片采购量呈现指数级增长。科通技术已与多家头部互联网企业达成长期合作,预计未来云场景相关业务将持续带动公司营收增长。

可以预见,DeepSeek大模型的技术迭代将持续催化AI芯片在云端的应用需求。科通技术凭借全场景方案的技术整合能力和全球供应链优势,在AI算力供应链中占据重要地位。随着AI模型复杂度的提升和云服务规模的扩大,科通技术有望凭借其技术优势和市场布局,在行业中持续发展,为AI芯片应用产业的发展贡献重要力量。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    459

    文章

    51628

    浏览量

    430177
  • AI
    AI
    +关注

    关注

    87

    文章

    32568

    浏览量

    271868
  • 大模型
    +关注

    关注

    2

    文章

    2804

    浏览量

    3454
收藏 人收藏

    相关推荐

    国产千卡GPU集群完成大模型训练测试,极具高兼容性和稳定性

    集群的方式成为了必然的选择。   2023年底,摩尔线程推出首个全国产千卡千亿模型训练平台“摩尔线程KUAE智中心”。摩尔线程相关负责人此前谈到,百
    的头像 发表于 06-11 07:50 3647次阅读
    国产<b class='flag-5'>千卡</b>GPU集群完成大<b class='flag-5'>模型</b>训练测试,极具高兼容性和稳定性

    国产化新标杆!卓怡恒通EPC-S4450边缘AI工控机开启工业智能新纪元

    在工业4.0与数字化转型浪潮的推动下,边缘计算正加速重构工业智能化版图。国内信创工业计算领域领军企业卓怡恒通今日正式发布EPC-S4450边缘AI工控机,&quot;全栈国产化+
    的头像 发表于 03-06 17:30 335次阅读
    国产化<b class='flag-5'>算</b><b class='flag-5'>力</b>新标杆!卓怡恒通EPC-S4450边缘<b class='flag-5'>AI</b>工控机开启工业智能新纪元

    创新驱动未来:大为锡膏为高精尖散热器技术注入&amp;amp;quot;强芯&amp;amp;quot;动力

    在人工智能、区块链、人形机器人、高性能计算等前沿技术飞速发展的今天,电子设备的&quot;体温管理&quot;正成为决定技术突破的关键门槛。当
    的头像 发表于 02-13 10:41 138次阅读
    创新驱动未来:大为锡膏为高精尖散热器<b class='flag-5'>技术</b>注入&<b class='flag-5'>amp</b>;<b class='flag-5'>amp</b>;<b class='flag-5'>quot</b>;强芯&<b class='flag-5'>amp</b>;<b class='flag-5'>amp</b>;<b class='flag-5'>quot</b>;动力

    企业AI租赁模式的好处

    构建和维护一个高效、可扩展的AI基础设施,不仅需要巨额的初期投资,还涉及复杂的运维管理和持续的技术升级。而AI
    的头像 发表于 12-24 10:49 643次阅读

    企业AI租赁是什么

    企业AI租赁是指企业通过互联网向专业的提供商租用所需的计算资源,满足其
    的头像 发表于 11-14 09:30 1643次阅读

    性能提升近一倍!壁仞科技携手无问芯穹,在千卡训练集群等领域取得技术新突破

    随着智能需求的倍增,到2024年,千卡集群已成为国内大模型训练的必备场景。壁仞科技,作为
    发表于 11-05 18:45 1239次阅读
    性能提升近一倍!壁仞科技携手无问芯穹,在<b class='flag-5'>千卡</b>训练集群等领域取得<b class='flag-5'>技术</b>新突破

    OCTC发布&amp;quot;工厂&amp;quot;!力促智中心高效规划建设投运

    创新提出面向未来数据中心的&quot;工厂&quot;模式,核心是以规(划)、建(设)、运(营)一体化的交钥匙工程,实现智中心快速投运
    的头像 发表于 10-11 09:10 656次阅读
    OCTC发布&<b class='flag-5'>amp</b>;<b class='flag-5'>quot</b>;<b class='flag-5'>算</b><b class='flag-5'>力</b>工厂&<b class='flag-5'>amp</b>;<b class='flag-5'>quot</b>;!力促智<b class='flag-5'>算</b>中心高效规划建设投运

    软通动力携手华为启动&amp;quot;智链险界&amp;quot;计划,强化生态链接共启保险AI新时代

    软通动力携子品牌软通金受邀参加此次大会,发表&quot;智驭未来 • 探索保险AI新业态&quot;主旨演讲,并携手华为正式启动&quot
    的头像 发表于 09-23 19:22 498次阅读
    软通动力携手华为启动&<b class='flag-5'>amp</b>;<b class='flag-5'>quot</b>;智链险界&<b class='flag-5'>amp</b>;<b class='flag-5'>quot</b>;计划,强化生态链接共启保险<b class='flag-5'>AI</b>新时代

    AI网络物理层底座: 大芯片先进封装技术

    随着人工智能(AI技术的迅猛发展,我们正站在第四次工业革命的风暴中, 这场风暴也将席卷我们整个芯片行业,特别是先进封装领域。Chiplet是实现单个芯片
    发表于 09-11 09:47 1019次阅读
    <b class='flag-5'>AI</b>网络物理层<b class='flag-5'>底座</b>: 大<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>芯片</b>先进封装<b class='flag-5'>技术</b>

    摩尔线程GPU底座助力大模型产业发展

    模型为代表的新一代人工智能技术是引领新一轮科技革命和产业变革的战略性技术和重要驱动力量,随着对
    的头像 发表于 08-27 16:15 752次阅读

    模型时代的需求

    现在AI已进入大模型时代,各企业都争相部署大模型,但如何保证大模型,以及相关的稳定性和性能
    发表于 08-20 09:04

    安谋科技异构组合,生成式AI挑战

    近日,此芯科技集团有限公司(以下简称“此芯科技”)AI PC战略暨首款芯片发布会在上海举行,正式推出了其首款专为AI PC打造的异构高能效芯片产品——“此芯P1”。作为国产新一代
    的头像 发表于 08-13 09:12 701次阅读

    千卡集群卡到万集群,燧原科技打造更好的AI底座

    :WAIC 2024)上,不仅有国内各大模型厂商同场竞技,也有丰富的基础设施展示,其中包括专注人工智能领域云端产品的燧原科技。  
    的头像 发表于 07-07 09:45 2556次阅读
    从<b class='flag-5'>千卡</b>集群卡到万<b class='flag-5'>卡</b>集群,燧原科技打造更好的<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>底座</b>

    摩尔线程千卡集群与滴普企业大模型已完成训练及推理适配

    近日,摩尔线程与国内领先的数据智能服务商滴普科技共同宣布,摩尔线程夸娥(KUAE)千卡集群与滴普企业大模型Deepexi已完成训练及推理适配。
    的头像 发表于 05-29 10:28 560次阅读
    摩尔线程<b class='flag-5'>千卡</b>智<b class='flag-5'>算</b>集群与滴普企业大<b class='flag-5'>模型</b>已完成训练及推理适配

    DPU技术赋能下一代AI基础设施

    4月19日,在重构世界 奔赴未来”为主题的2024中国生成式AI大会上,中科驭数作为DPU新型基础设施代表,受邀出席了中国智
    的头像 发表于 04-20 11:31 1045次阅读