0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

摩尔线程与智谱AI完成大模型性能测试与适配

CHANBAEK 来源:网络整理 2024-06-14 16:40 次阅读

近日,摩尔线程与智谱AI人工智能领域开展了一轮深入的合作,共同对GPU大模型进行了适配及性能测试。此次测试不仅涵盖了大模型的推理能力,还涉及了基于摩尔线程夸娥(KUAE)千卡智算集群的大模型预训练,旨在全面评估摩尔线程GPU在大模型应用中的性能表现。

在推理性能测试中,摩尔线程自研的全功能GPU展现出了卓越的性能。与基准对比产品RTX 3090和RTX 4090相比,摩尔线程的GPU在全部测试用例中均优于RTX 3090,而在多batch情况下更是超越了RTX 4090。这一结果充分证明了摩尔线程GPU在推理能力上的出色表现,为用户提供了更加高效、准确的计算体验。

在训练性能测试中,摩尔线程夸娥千卡智算集群同样展现出了强大的性能。测试结果显示,夸娥千卡智算集群的训练精度与A100集群误差在1%以内,这一数据足以证明其在训练过程中的精确度和稳定性。同时,夸娥千卡智算集群的性能扩展系数超过90%,意味着在分布式计算环境下,该集群能够充分利用各节点的计算能力,实现高效的并行计算。此外,模型算力利用率(MFU)与A100集群相当,进一步证明了夸娥千卡智算集群在大模型训练中的高效性。

此次测试的成功不仅为摩尔线程和智谱AI的合作奠定了坚实的基础,也为双方在人工智能领域的深入探索提供了有力的技术支撑。未来,双方将继续携手合作,共同推动GPU大模型在更多领域的应用和发展。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    30728

    浏览量

    268873
  • 人工智能
    +关注

    关注

    1791

    文章

    47183

    浏览量

    238209
  • 摩尔线程
    +关注

    关注

    2

    文章

    200

    浏览量

    4560
收藏 人收藏

    评论

    相关推荐

    摩尔线程完成股改,筹备上市

    近日,摩尔线程智能科技(北京)股份有限公司(简称“摩尔线程”)宣布已完成股改,并正积极筹备上市。据国家企业信用信息公示系统最新查询结果显示,
    的头像 发表于 11-12 14:15 427次阅读

    摩尔线程GPU与超图软件大模型适配:共筑国产地理空间AI新生态

    10月24日,摩尔线程公司宣布与超图软件达成重要合作里程碑。经过双方的严格测试摩尔线程的MTT S/X系列全功能GPU已成功与超图软件最新
    的头像 发表于 10-24 11:29 680次阅读

    摩尔线程与超图软件完成产品兼容认证

    10月24日,摩尔线程官方正式对外宣布,其MTT S/X系列全功能GPU已成功与超图软件最新发布的大模型系列产品完成产品兼容认证。这一消息的发布标志着双方在GPU与软件
    的头像 发表于 10-24 10:25 444次阅读

    摩尔线程与羽人科技完成大语言模型训练测试

    近日,摩尔线程与羽人科技携手宣布,双方已成功实现夸娥(KUAE)千卡智算集群与羽人系列模型解决方案的训练兼容适配。在本次测试中,羽人科技通过
    的头像 发表于 08-27 16:19 523次阅读

    摩尔线程正式开源音频理解大模型MooER

    近日,国内领先的GPU创新企业摩尔线程宣布了一项重大技术突破——正式开源其自主研发的音频理解大模型MooER(摩耳)。这一举动标志着我国在音频处理与理解领域迈出了坚实的一步,特别是在基于国产硬件的
    的头像 发表于 08-27 15:24 491次阅读

    摩尔线程携手智源研究院完成基于Triton的大模型算子库适配

    近日,摩尔线程与北京智源人工智能研究院(简称:智源研究院)已顺利完成基于Triton语言的高性能算子库FlagGems的适配工作。得益于
    的头像 发表于 08-02 11:06 855次阅读

    摩尔线程携手东华软件完成AI模型推理测试适配

    近日,摩尔线程与东华软件云筑AI创新中心宣布,双方已完成大模型推理测试
    的头像 发表于 07-31 10:51 730次阅读

    摩尔线程和乐创能源签署战略合作协议

    近日,摩尔线程和乐创能源签署了战略合作协议,双方将聚焦能源大模型的创新与应用,围绕新能源领域的电池、新能源发电、负荷管理、需求侧响应等产品技术方向,共同研发能源大模型。依托
    的头像 发表于 07-11 14:35 715次阅读

    摩尔线程与羽人科技携手完成7B大模型训练测试

    近日,摩尔线程与羽人科技联合宣布了一项重要成果:双方已成功实现夸娥(KUAE)千卡智算集群与羽人系列模型解决方案的训练兼容适配。这一成果不仅标志着两大技术巨头在人工智能领域的深度合作取
    的头像 发表于 06-14 16:33 485次阅读

    摩尔线程与师者AI携手完成70亿参数教育AI模型训练测试

    近日,国内知名的GPU制造商摩尔线程与全学科教育AI模型“师者AI”联合宣布,双方已成功完成
    的头像 发表于 06-14 16:31 571次阅读

    摩尔线程和滴普科技完成大模型训练与推理适配

    近日,摩尔线程与滴普科技宣布了一项重要合作成果。摩尔线程的夸娥(KUAE)千卡智算集群与滴普科技的企业大模型Deepexi已
    的头像 发表于 05-30 10:14 542次阅读

    摩尔线程千卡智算集群与滴普企业大模型完成训练及推理适配

    近日,摩尔线程与国内领先的数据智能服务商滴普科技共同宣布,摩尔线程夸娥(KUAE)千卡智算集群与滴普企业大模型Deepexi已
    的头像 发表于 05-29 10:28 462次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>千卡智算集群与滴普企业大<b class='flag-5'>模型</b>已<b class='flag-5'>完成</b>训练及推理<b class='flag-5'>适配</b>

    摩尔线程与无问芯穹宣布完成基于GPU千卡集群的3B规模大模型实训

    摩尔线程联合无问芯穹宣布,双方已在本周正式完成基于国产全功能GPU千卡集群的3B规模大模型实训。
    的头像 发表于 05-27 10:44 473次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>与无问芯穹宣布<b class='flag-5'>完成</b>基于GPU千卡集群的3B规模大<b class='flag-5'>模型</b>实训

    摩尔线程与Reportify联手加速金融大模型创新应用

    近日,国内创新的AI投资研究问答搜索引擎Reportify成功集成了摩尔线程自研大语言模型MUSAChat的推理API云服务,并已正式上线,运行效果良好。
    的头像 发表于 05-22 18:14 1300次阅读

    摩尔线程助力AI模型训练与计算升级,共建美好数字化未来

    此外,在中关村国际技术交易大会高精尖技术产品首发会上,摩尔线程与无问芯穹联合宣布,双方正致力于开发基于夸娥千卡智算集群的“MT-infini-3B”合作大模型摩尔
    的头像 发表于 04-28 16:42 1081次阅读