0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

摩尔线程助力AI大模型训练与计算升级,共建美好数字化未来

微云疏影 来源:综合整理 作者:综合整理 2024-04-28 16:42 次阅读

围绕“创新:构建更美好世界”主题,由科技部、发改委、工信部、国资委、中科院、工程院、科协及北京市政府联合举办的2024年中关村论坛于近日在京举行。本次论坛汇聚了来自100多个国家和地区的嘉宾,以及150多家外国政府部门和国际组织机构。同时,一系列人工智能新技术、新应用、新模式在此次论坛上得到展示和发布。

在论坛期间,中关村国际技术交易大会开幕式暨全球技术交易生态伙伴大会成功举办,并发布了《百项新技术新产品榜单》。值得关注的是,摩尔线程夸娥(KUAE)智算中心全栈解决方案荣获该榜单重点推荐。得益于其高兼容性、稳定性、扩展性及算力利用率等优势,摩尔线程夸娥智算集群能够为千亿参数级别的大模型训练提供强大的算力支持。

此外,在中关村国际技术交易大会高精尖技术产品首发会上,摩尔线程与无问芯穹联合宣布,双方正致力于开发基于夸娥千卡智算集群的“MT-infini-3B”合作大模型。摩尔线程成为首家接入无问芯穹并进行千卡级别大模型训练的国产GPU厂商。无问芯穹联合创始人兼CEO夏立雪表示,经过无问芯穹Infini-AI平台实训与联合优化,摩尔线程夸娥千卡智算集群在精度、性能、易用性和算力利用率方面表现出色,且在实训过程中实现了长时间稳定训练,为千亿参数级别大模型训练提供了持续高效的高性能算力支持。未来,他们计划将此合作模型在Infini-AI平台上向公众开放。

论坛首日,在北京银行新质生产力与组合金融发展大会上,摩尔线程创始人兼CEO张建中发表了以《构建AGI时代的金融科技新质生产力》为题的主旨演讲,强调人工智能作为新质生产力的创新引擎,将在金融行业中发挥重要作用。他指出,人工智能将通过个性化服务产品、智能化投资决策、自动化风险管理、安全化合规监管、便捷化降本增效等方式,有效应对金融科技领域所面临的诸多挑战。在大模型时代背景下,每个金融企业都应具备自身的大模型和训练基础设施,而安全普惠的国产化算力则是金融行业不可或缺的要素。摩尔线程依托全功能GPU,打造了涵盖芯片至智算中心的先进算力基础设施,以及覆盖软件加速库至大模型分布式训练系统的全栈软件服务,为我国金融行业的数智化转型提供了算力加速。

在中关村国际技术交易大会高精尖技术产品首发会上,摩尔线程联合创始人兼执行总裁王东重点解析了夸娥(KUAE)智算中心全栈解决方案的优点及价值,展示了解决大规模GPU算力建设和运营管理问题的能力。该方案由夸娥(KUAE)计算集群、KUAE Platform集群管理平台及KUAE ModelStudio模型服务组成,实现了开箱即用。目前,摩尔线程已支持包括LLaMA、GLM、Aquila、Baichuan、GPT、Bloom、玉言在内的数十种主流大模型的训练与微调。实践证明,使用摩尔线程夸娥(KUAE)千卡集群进行70B至130B参数规模的大模型训练,其线性加速比高达91%且算力利用率稳定。

中关村论坛作为中国面向全球科技创新交流合作的国家级平台,已成功举办14届。摩尔线程作为中关村独角兽芯片企业与北京市“专精特新”企业,受邀在中关村展示中心常设展出人工智能集群展区和集成电路集群展区。凭借全功能GPU的多元计算优势,摩尔线程已形成以夸娥智算集群为核心的全栈AI产品线,致力于成为大模型和通用人工智能的先进算力基础设施。展望未来,摩尔线程将持续以AI为核心,以技术创新驱动发展,不断拓宽加速计算领域,为构建更美好的数智世界贡献力量。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4700

    浏览量

    128672
  • 摩尔线程
    +关注

    关注

    1

    文章

    198

    浏览量

    4508
  • 大模型
    +关注

    关注

    2

    文章

    2314

    浏览量

    2448
收藏 人收藏

    评论

    相关推荐

    摩尔线程与羽人科技完成大语言模型训练测试

    (YuRen-7b)大语言模型训练测试。测试结果显示,训练效率达到预期,夸娥千卡智算集群展现出了高度的兼容性和稳定性,为羽人科技未来的零代码训练
    的头像 发表于 08-27 16:19 496次阅读

    摩尔线程夸娥智算中心解决方案重磅升级

    摩尔线程重磅宣布其AI旗舰产品夸娥(KUAE)智算集群解决方案实现重大升级,从当前的千卡级别大幅扩展至万卡规模。摩尔
    的头像 发表于 08-27 16:09 637次阅读

    摩尔线程正式开源音频理解大模型MooER

    近日,国内领先的GPU创新企业摩尔线程宣布了一项重大技术突破——正式开源其自主研发的音频理解大模型MooER(摩耳)。这一举动标志着我国在音频处理与理解领域迈出了坚实的一步,特别是在基于国产硬件的
    的头像 发表于 08-27 15:24 456次阅读

    摩尔线程与360集团携手共建AI生态,共推智脑大模型发展

    在近日召开的第十二届互联网安全大会(ISC.AI 2024)上,两大科技巨头——摩尔线程与360集团宣布达成重大战略合作,现场签署协议,标志着双方在数字安全、信息与
    的头像 发表于 08-02 16:36 911次阅读

    摩尔线程携手东华软件完成AI模型推理测试与适配

    近日,摩尔线程与东华软件云筑AI创新中心宣布,双方已完成大模型推理测试与适配。依托摩尔线程的全功
    的头像 发表于 07-31 10:51 686次阅读

    摩尔线程与乐创能源共同研发能源大模型

    数字化转型的浪潮中,新能源行业正迎来前所未有的发展机遇与挑战。为加速这一领域的智能进程,摩尔线程与乐创能源近日正式签署了战略合作协议,标志着双方在能源大
    的头像 发表于 07-11 14:55 502次阅读

    摩尔线程与智谱AI完成大模型性能测试与适配

    近日,摩尔线程与智谱AI在人工智能领域开展了一轮深入的合作,共同对GPU大模型进行了适配及性能测试。此次测试不仅涵盖了大模型的推理能力,还涉
    的头像 发表于 06-14 16:40 1005次阅读

    摩尔线程与羽人科技携手完成7B大模型训练测试

    近日,摩尔线程与羽人科技联合宣布了一项重要成果:双方已成功实现夸娥(KUAE)千卡智算集群与羽人系列模型解决方案的训练兼容适配。这一成果不仅标志着两大技术巨头在人工智能领域的深度合作取
    的头像 发表于 06-14 16:33 455次阅读

    摩尔线程与师者AI携手完成70亿参数教育AI模型训练测试

    近日,国内知名的GPU制造商摩尔线程与全学科教育AI模型“师者AI”联合宣布,双方已成功完成了一项重要的大
    的头像 发表于 06-14 16:31 534次阅读

    摩尔线程和滴普科技完成大模型训练与推理适配

    近日,摩尔线程与滴普科技宣布了一项重要合作成果。摩尔线程的夸娥(KUAE)千卡智算集群与滴普科技的企业大模型Deepexi已完成
    的头像 发表于 05-30 10:14 508次阅读

    摩尔线程千卡智算集群与滴普企业大模型已完成训练及推理适配

    近日,摩尔线程与国内领先的数据智能服务商滴普科技共同宣布,摩尔线程夸娥(KUAE)千卡智算集群与滴普企业大模型Deepexi已完成
    的头像 发表于 05-29 10:28 423次阅读
    <b class='flag-5'>摩尔</b><b class='flag-5'>线程</b>千卡智算集群与滴普企业大<b class='flag-5'>模型</b>已完成<b class='flag-5'>训练</b>及推理适配

    摩尔线程与Reportify联手加速金融大模型创新应用

    近日,国内创新的AI投资研究问答搜索引擎Reportify成功集成了摩尔线程自研大语言模型MUSAChat的推理API云服务,并已正式上线,运行效果良好。
    的头像 发表于 05-22 18:14 1267次阅读

    摩尔线程携手憨猴集团,深化AI算力战略合作,成功实现大模型分布式训练

    摩尔线程与憨猴科技集团日前宣布,采用搭载摩尔线程的夸娥(KUAE)千卡智算集群,已成功完成了多个大模型的分布式
    的头像 发表于 05-17 17:24 641次阅读

    摩尔线程与青云科技合作聚焦国产人工智能创新应用和数字化建设

    近日,摩尔线程与国内技术领先的企业级云服务商与数字化解决方案提供商青云科技达成战略合作。
    的头像 发表于 04-19 11:45 719次阅读

    摩尔线程荣膺2023北京市数字经济标杆企业——数字基础技术类

    智算平台,尤其是GPU,不仅是人工智能和数字经济腾飞的坚实基石,更是生成式AI运算的核心。摩尔线程的KUAE(夸娥)智算中心,作为我国首个以国产生全功能GPU为基座的大型算力集群,成为
    的头像 发表于 03-05 15:34 617次阅读