浪潮信息近日发布了一款全新的开源大模型——“源2.0-M32”。这款大模型在“源2.0”系列大模型的基础上,进行了深度的技术创新与升级。
其核心技术亮点在于“基于注意力机制的门控网络”技术的引入。通过这一技术,浪潮信息成功构建了一个包含32个专家的混合专家模型(MoE),该模型不仅结构先进,而且算力效率极高。在运行时,模型的激活参数仅为37亿,这一数字在业界中堪称领先。
更为值得一提的是,“源2.0-M32”在性能上全面对标了拥有700亿参数的LLaMA3开源大模型。在业界主流基准评测中,它展现出了卓越的性能,为用户提供了更为高效、精准的服务。
此次“源2.0-M32”的发布,无疑将进一步推动人工智能领域的发展,同时也彰显了浪潮信息在技术创新方面的领先地位。
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。
举报投诉
-
浪潮
+关注
关注
1文章
471浏览量
24003 -
开源
+关注
关注
3文章
3455浏览量
42891 -
大模型
+关注
关注
2文章
2739浏览量
3386
发布评论请先 登录
相关推荐
浪潮信息与智源研究院携手共建大模型多元算力生态
近日,浪潮信息与北京智源人工智能研究院正式签署战略合作协议,双方将紧密合作,共同构建大模型多元算力开源创新生态。 此次合作旨在提升大模型创新
浪潮信息与智源研究院达成战略合作协议
近日,浪潮信息与智源研究院达成战略合作协议,双方将紧密协作共建大模型多元算力开源创新生态,提升大模型创新研发的算力效率,降低大
浪潮信息发布"源"Yuan-EB,刷新RAG检索最高成绩
近日,浪潮信息在AI领域取得了重大突破,成功发布了其嵌入模型"源"Yuan-EB(Yuan-embedding-1.0)。在备受瞩目的C-MTEB榜单中,"
浪潮信息发布“源”Yuan-EB助力RAG检索精度新高
近日,浪潮信息发布 “源”Yuan-EB(Yuan-embedding-1.0,嵌入模型),在C-MTEB榜单中斩获检索任务第一名,以78.41的平均精度刷新大

浪潮信息源2.0大模型与百度PaddleNLP全面适配
近日,浪潮信息宣布其开源大模型源2.0已全面适配百度PaddleNLP。这一举措标志着大模型开发
源2.0-M32大模型发布量化版 运行显存仅需23GB 性能可媲美LLaMA3
北京2024年8月23日 /美通社/ -- 近日,浪潮信息发布源2.0-M32大模型4bit和8bit量化版,性能比肩700亿参数的LLaM

浪潮信息推出AIGC存储解决方案
近日,在科技创新的浪潮中,浪潮信息成功举办了“元脑中国行”全国巡展的杭州站活动,此次盛会不仅汇聚了业界的精英与目光,更见证了浪潮信息在AIGC(人工智能生成内容)领域的一次重大突破。会上,浪潮
毕昇大模型应用开发平台+浪潮信息AIStation,让大模型定制更简单
北京2024年6月5日 /美通社/ -- 近日,毕昇大模型应用开发平台与浪潮信息AIStation智能业务生产创新平台完成兼容性互认证。基于毕昇和浪潮信息AIStation,用户通过预置的毕昇助手

为大模型专门优化 浪潮信息发布分布式全闪存储AS13000G7-N系列
北京2024年5月10日 /美通社/ -- 近日,浪潮信息发布为大模型专门优化的分布式全闪存储AS13000G7-N系列。该系列依托浪潮信息自研分布式文件系统,搭载新一代数据加速引擎

浪潮信息发布为大模型专门优化的分布式全闪存储AS13000G7-N系列
近日,浪潮信息发布为大模型专门优化的分布式全闪存储AS13000G7-N系列。该系列依托浪潮信息自研分布式文件系统,搭载新一代数据加速引擎DataTurbo,

浪潮信息"源2.0"大模型YuanChat支持英特尔最新商用AI PC
北京2024年3月27日 /美通社/ -- 3月26日, 浪潮信息与英特尔正式宣布,浪潮信息"源2.0系列基础大模型"已和最新的英特尔® 酷

浪潮信息与英特尔合作推出一种大模型效率工具“YuanChat”
3月26日,浪潮信息与英特尔正式宣布,浪潮信息“源2.0系列基础大模型”已和最新的英特尔® 酷睿™ Ultra处理器平台完成适配,本地推理速

评论