0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

摩尔线程千卡智算集群与滴普企业大模型已完成训练及推理适配

摩尔线程 来源:摩尔线程 2024-05-29 10:28 次阅读

近日,摩尔线程与国内领先的数据智能服务商滴普科技共同宣布,摩尔线程夸娥(KUAE)千卡智算集群与滴普企业大模型Deepexi已完成训练及推理适配。基于摩尔线程夸娥千卡智算集群,滴普科技成功完成了700亿参数LLaMA2大语言模型的预训练测试,训练时长共计77小时,全程无故障连续运行,集群训练稳定性达到100%,训练效率和兼容性均达到预期。

f3c76320-1d62-11ef-b74b-92fbcf53809c.png

滴普科技作为数据智能服务商,以数据智能技术为基础,为客户提供数据智能基础设施、企业大模型产品,以及数据智能创新服务。基于已深度服务的头部客户所积累的深厚数据能力,滴普科技构建的Deepexi企业大模型,在语义、视觉、语音、跨模态等方面的能力均表现优越,能够运用模型工具链为企业提供高质量的数据准备、模型训练、调优、部署及推理服务,快速构建企业不同领域模型以及智能体应用,帮助企业实现从数据驱动到智能驱动的升级。

此次,摩尔线程与滴普科技的合作,借助夸娥千卡智算集群全栈方案的模型覆盖、推理加速、CUDA兼容、断点续训、分布式训练、集群可靠性等8大核心能力,为构建国产化数智赋能底座奠定坚实基础。同时,夸娥千卡智算集群作为业内首个跑通、跑完国产大模型的千卡集群,以全功能GPU为底座,提供软硬一体化的全栈解决方案。基于此次合作,双方能够为各行各业提供全国产大模型解决方案,广泛应用于训练、微调和实时推理等场景。

目前,滴普科技已与中国海诚、中核装备院、百丽时尚等企业开展产业落地实践,成为产业大模型落地的领先企业。未来,摩尔线程与滴普科技将继续发挥双方在技术、场景和软硬件协同方面的优势,在能源、金融、先进制造等领域,以及与央企、国企的合作中,共同探索全国产化解决方案的落地机会,推动人工智能在更多产业领域的应用,助力企业实现智能升级,赋能行业高质量发展。

审核编辑:刘清
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4709

    浏览量

    128781
  • 人工智能
    +关注

    关注

    1791

    文章

    46952

    浏览量

    237810
  • 摩尔线程
    +关注

    关注

    2

    文章

    199

    浏览量

    4528
  • 大模型
    +关注

    关注

    2

    文章

    2354

    浏览量

    2539

原文标题:摩尔线程 × 滴普科技|完成大模型训练与推理适配

文章出处:【微信号:moorethreads,微信公众号:摩尔线程】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    国产千卡GPU集群完成模型训练测试,极具高兼容性和稳定性

    集群的方式成为了必然的选择。   2023年底,摩尔线程推出首个全国产千卡千亿模型
    的头像 发表于 06-11 07:50 3182次阅读
    国产<b class='flag-5'>千卡</b>GPU<b class='flag-5'>集群</b><b class='flag-5'>完成</b>大<b class='flag-5'>模型</b><b class='flag-5'>训练</b>测试,极具高兼容性和稳定性

    性能提升近一倍!壁仞科技携手无问芯穹,在千卡训练集群等领域取得技术新突破

    随着智能力需求的倍增,到2024年,千卡集群已成为国内大模型训练的必备场景。壁仞科技,作为
    发表于 11-05 18:45 461次阅读
    性能提升近一倍!壁仞科技携手无问芯穹,在<b class='flag-5'>千卡</b><b class='flag-5'>训练</b><b class='flag-5'>集群</b>等领域取得技术新突破

    摩尔线程与羽人科技完成大语言模型训练测试

    近日,摩尔线程与羽人科技携手宣布,双方已成功实现夸娥(KUAE)千卡集群与羽人系列模型解决方
    的头像 发表于 08-27 16:19 506次阅读

    摩尔线程携手东华软件完成AI大模型推理测试与适配

    近日,摩尔线程与东华软件云筑AI创新中心宣布,双方已完成模型推理测试与适配。依托
    的头像 发表于 07-31 10:51 707次阅读

    摩尔线程与智谱AI完成模型性能测试与适配

    近日,摩尔线程与智谱AI在人工智能领域开展了一轮深入的合作,共同对GPU大模型进行了适配及性能测试。此次测试不仅涵盖了大模型
    的头像 发表于 06-14 16:40 1028次阅读

    摩尔线程与羽人科技携手完成7B大模型训练测试

    近日,摩尔线程与羽人科技联合宣布了一项重要成果:双方已成功实现夸娥(KUAE)千卡集群与羽人系列模型
    的头像 发表于 06-14 16:33 463次阅读

    摩尔线程与师者AI携手完成70亿参数教育AI大模型训练测试

    近日,国内知名的GPU制造商摩尔线程与全学科教育AI大模型“师者AI”联合宣布,双方已成功完成了一项重要的大模型
    的头像 发表于 06-14 16:31 547次阅读

    摩尔线程科技完成模型训练推理适配

    近日,摩尔线程科技宣布了一项重要合作成果。摩尔线程的夸娥(KUAE)
    的头像 发表于 05-30 10:14 529次阅读

    国产GPU可替代!摩尔线程千卡集群点亮新成就

    摩尔线程、无问芯穹联合宣布,双方已经正式完成MT-infini-3B 3B(30亿参数)规模大模型的实训,基于摩尔
    的头像 发表于 05-29 11:27 687次阅读
    国产GPU可替代!<b class='flag-5'>摩尔</b><b class='flag-5'>线程</b><b class='flag-5'>千卡</b><b class='flag-5'>集群</b>点亮新成就

    摩尔线程、无问芯穹合作完成国产全功能GPU千卡集群

    据介绍,此项训练历时13.2天,过程稳定而有序,集群整体运行稳定性达到了100%。相较于单机训练千卡集群的扩展效率提升了超过90%。
    的头像 发表于 05-27 14:40 608次阅读

    摩尔线程与无问芯穹在国产GPU上首次实现大模型实训

    近日,摩尔线程与无问芯穹共同宣布,双方已正式完成基于国产全功能GPU千卡集群的3B规模大模型实训
    的头像 发表于 05-27 10:59 647次阅读

    摩尔线程与无问芯穹宣布完成基于GPU千卡集群的3B规模大模型实训

    摩尔线程联合无问芯穹宣布,双方已在本周正式完成基于国产全功能GPU千卡集群的3B规模大模型实训。
    的头像 发表于 05-27 10:44 463次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>与无问芯穹宣布<b class='flag-5'>完成</b>基于GPU<b class='flag-5'>千卡</b><b class='flag-5'>集群</b>的3B规模大<b class='flag-5'>模型</b>实训

    摩尔线程携手憨猴集团,深化AI力战略合作,成功实现大模型分布式训练

    摩尔线程与憨猴科技集团日前宣布,采用搭载摩尔线程的夸娥(KUAE)千卡
    的头像 发表于 05-17 17:24 659次阅读

    摩尔线程携手憨猴集团,共同探索国产AI力的新应用场景与落地实践

    摩尔线程与憨猴科技集团有限公司(简称:憨猴集团)近日宣布,基于摩尔线程的夸娥(KUAE)千卡
    的头像 发表于 05-17 15:08 435次阅读

    摩尔线程助力AI大模型训练与计算升级,共建美好数字化未来

    此外,在中关村国际技术交易大会高精尖技术产品首发会上,摩尔线程与无问芯穹联合宣布,双方正致力于开发基于夸娥千卡集群的“MT-infini
    的头像 发表于 04-28 16:42 1026次阅读