0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

浪潮信息智能业务生产创新平台提升大模型算力平台使用效率

浪潮AIHPC 来源:浪潮AIHPC 2023-07-03 11:15 次阅读

日前,2023全球人工智能产品应用博览会在苏州开幕。浪潮信息智能业务生产创新平台AIStation凭借领先的资源调度与平台管理能力,有效提升大模型算力平台使用效率,荣获智博会核心奖项“产品金奖”。此次获奖,不仅体现了AIStation在大模型算力与业务支撑方面的领先性,也体现了产业对大模型算力平台效率的高度关注。

提升大模型算力平台使用效率

当前,以大模型为代表的生成式AI技术正在加速发展并革新各行业智能转型路径。生成式AI创新需要基于海量数据集,在拥有成百上千加速卡的AI服务器集群上对千亿级参数的AI大模型进行分布式训练。如何发挥大模型算力平台效能、抑制性能损耗,以高效完成AI大模型的训练部署,已成为AIGC时代的新挑战。

作为专为人工智能开发和部署提供全流程支持的端到端平台,AIStation能够以强大的资源调度和管理能力助力客户加速AI大模型开发与部署,通过对计算资源、数据资源、深度学习软件栈资源进行统一管理,有效提升大模型AI算力集群的使用效率。

一站式管理、毫秒级调度,集群利用率达70%

大模型训练需要构建包含计算、网络、存储、框架等在内的系统性分布式训练环境,传统的分散化管理不仅门槛高、效率低,且缺少针对性优化的整体调度系统,导致大模型计算平台的整体协同性较差,训练算力效率低。

针对分布式训练计算规模大、系统性强的特点,AIStation实现了异构算力集群的统一池化管理,通过自研分布式任务自适应系统将训练底层的计算、存储、网络环境自动化配置,并提供自定义修改基本超参数功能。通过多种资源高效管理和调度策略,AIStation能实现万卡集群的毫秒级调度,提升整体资源利用率到70%以上。

同时,AIStation集成主流的大模型训练框架,依托容器化技术,能够将运行环境、框架适配过程标准化、模块化,支持秒级构建运行环境,保障AI开发和AI业务的高效运行。

瓶颈优化、稳健容错,全流程加速大模型训练

针对大规模分布式训练过程中遇到的算力网络搭建、数据加速、网络通信优化等瓶颈,AIStation通过镜像分发加速、数据缓存加速、网络拓扑调度、资源动态弹性伸缩等特性,在提高计算资源利用率的同时加速整个训练过程。其中,AIStation通过数据缓存机制可让模型训练效率获得200%-300%的提升,并能够根据节点的数据缓存情况自动调度训练任务,避免训练数据重复下载,节省数据加载时间,与自研调度系统配合后,分布式训练线性加速比能够高达0.9,有效抑制多节点协同的性能损耗。

健壮性与稳定性是目前高效完成大模型训练的强要求。对此,AIStation通过提供全生命周期管理、故障容错、集群监控运维等一体化能力,能够实现训练异常和故障的全面检测和自动处理,有效缩短断点续训时间,降低复杂度,以持续稳定的训练降低大模型训练成本和周期。

高效调用,释放大模型应用价值

针对大模型训练完成后的应用部署,AIStation实现训练和推理的全打通,加快模型应用落地。针对大模型实际应用中的调用突发性,AIStation可根据推理服务资源需求的变化及时调整资源配给,根据实时业务的请求量实现秒级服务扩缩容,可支持百万级高并发的大模型AI推理服务场景,服务响应平均延迟低于1ms,突发的访问高峰的响应效率提升50%。

目前,AIStation已经在2457亿参数的“源”大模型训练实践中得到有效验证,支撑 “源”大模型的训练算力效率达44.8%,高于GPT-3的21.3%。同时,某大型商业银行基于AIStation打造的并行运算集群,凭借领先的大规模分布式训练支撑能力,荣获2022IDC“未来数字基础架构领军者”奖项。未来, AIStation平台将持续为各行业的大模型开发与部署提供高效的算力平台管理能力,加速AIGC技术迭代革新。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 浪潮
    +关注

    关注

    1

    文章

    450

    浏览量

    23808
  • 模型
    +关注

    关注

    1

    文章

    3158

    浏览量

    48700
  • 数据集
    +关注

    关注

    4

    文章

    1205

    浏览量

    24635

原文标题:【开放试用】AIStation,有效提升大模型算力平台使用效率

文章出处:【微信号:浪潮AIHPC,微信公众号:浪潮AIHPC】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    浪潮信息:元脑企智EPAI助力金融大模型快速落地

    近日,2024金融科技应用创新发展大会暨农村金融机构信息化发展创新座谈会在上海举办。浪潮信息推出元脑企智EPAI企业大模型开发
    的头像 发表于 09-20 16:07 302次阅读
    <b class='flag-5'>浪潮信息</b>:元脑企智EPAI助力金融大<b class='flag-5'>模型</b>快速落地

    浪潮信息携手天府云数据科技推出了42kW智风冷

    在当今数字化转型的浪潮中,力作为推动数字经济高质量发展的核心引擎,正以前所未有的速度进化。近日,浪潮信息与四川省天府云数据科技有限责任公司携手,在国内率先推出了42kW智风冷
    的头像 发表于 07-15 16:18 595次阅读

    浪潮信息发布AIStation V5,全面支持大模型开发流程与高效调度

    北京2024年7月11日 /美通社/ -- 7月9日,在"元脑中国行"全国巡展济南站上,浪潮信息发布AIStation 人工智能开发平台V5升级版,具备全面的大模型流程支持能力,帮助企
    的头像 发表于 07-12 09:37 371次阅读
    <b class='flag-5'>浪潮信息</b>发布AIStation V5,全面支持大<b class='flag-5'>模型</b>开发流程与高效<b class='flag-5'>算</b><b class='flag-5'>力</b>调度

    浪潮信息推出AIGC存储解决方案

    近日,在科技创新浪潮中,浪潮信息成功举办了“元脑中国行”全国巡展的杭州站活动,此次盛会不仅汇聚了业界的精英与目光,更见证了浪潮信息在AIGC(人工
    的头像 发表于 07-03 11:16 672次阅读

    毕昇大模型应用开发平台+浪潮信息AIStation,让大模型定制更简单

    北京2024年6月5日 /美通社/ -- 近日,毕昇大模型应用开发平台浪潮信息AIStation智能业务
    的头像 发表于 06-05 11:58 392次阅读
    毕昇大<b class='flag-5'>模型</b>应用开发<b class='flag-5'>平台</b>+<b class='flag-5'>浪潮信息</b>AIStation,让大<b class='flag-5'>模型</b>定制更简单

    浪潮信息发布源2.0-M32开源大模型,模效率大幅提升

    5月28日,浪潮信息发布“源2.0-M32”开源大模型。“源2.0-M32”在基于”源2.0”系列大模型已有工作基础上,创新性地提出和采用了“基于注意
    的头像 发表于 05-29 09:34 383次阅读
    <b class='flag-5'>浪潮信息</b>发布源2.0-M32开源大<b class='flag-5'>模型</b>,模<b class='flag-5'>算</b><b class='flag-5'>效率</b>大幅<b class='flag-5'>提升</b>

    浪潮信息发布“源2.0-M32”开源大模型

    浪潮信息近日推出了革命性的“源2.0-M32”开源大模型。该模型在源2.0系列基础上,引入了“基于注意机制的门控网络”技术,构建了一个包含32个专家的混合专家
    的头像 发表于 05-29 09:08 597次阅读

    浪潮信息发布企业大模型开发平台&quot;元脑企智&quot;EPAI,加速AI创新落地

    of AI),为企业AI大模型落地应用提供高效、易用、安全的端到端开发平台,提供数据准备、模型训练、知识检索、应用框架等系列工具,支持调度多元
    的头像 发表于 04-18 21:21 428次阅读
    <b class='flag-5'>浪潮信息</b>发布企业大<b class='flag-5'>模型</b>开发<b class='flag-5'>平台</b>&quot;元脑企智&quot;EPAI,加速AI<b class='flag-5'>创新</b>落地

    浪潮信息发布企业大模型开发平台“元脑企智”EPAI

    应用提供高效、易用、安全的端到端开发平台,提供数据准备、模型训练、知识检索、应用框架等系列工具,支持调度多元和多模算法,帮助企业高效开发部署生成式AI应用、打造
    的头像 发表于 04-18 10:12 361次阅读
    <b class='flag-5'>浪潮信息</b>发布企业大<b class='flag-5'>模型</b>开发<b class='flag-5'>平台</b>“元脑企智”EPAI

    浪潮信息&quot;源2.0&quot;大模型YuanChat支持英特尔最新商用AI PC

    北京2024年3月27日 /美通社/ -- 3月26日, 浪潮信息与英特尔正式宣布,浪潮信息"源2.0系列基础大模型"已和最新的英特尔® 酷睿™ Ultra处理器平台完成适配,本地推理
    的头像 发表于 03-27 22:52 456次阅读
    <b class='flag-5'>浪潮信息</b>&quot;源2.0&quot;大<b class='flag-5'>模型</b>YuanChat支持英特尔最新商用AI PC

    浪潮信息与英特尔合作推出一种大模型效率工具“YuanChat”

    3月26日,浪潮信息与英特尔正式宣布,浪潮信息“源2.0系列基础大模型”已和最新的英特尔® 酷睿™ Ultra处理器平台完成适配,本地推理速度提升
    的头像 发表于 03-27 13:50 579次阅读
    <b class='flag-5'>浪潮信息</b>与英特尔合作推出一种大<b class='flag-5'>模型</b><b class='flag-5'>效率</b>工具“YuanChat”

    潞晨科技Colossal-AI与浪潮信息AIStation完成兼容性互认证

    近日,潞晨科技的Colossal-AI大模型开发工具和浪潮信息的AIStation智能业务创新生产平台
    的头像 发表于 03-06 10:18 743次阅读

    潞晨科技Colossal-AI + 浪潮信息AIStation,大模型开发效率提升10倍

    北京2024年2月29日 /美通社/ -- 近日,潞晨科技Colossal-AI大模型开发工具与浪潮信息AIStation智能业务创新生产
    的头像 发表于 03-01 09:43 452次阅读
    潞晨科技Colossal-AI + <b class='flag-5'>浪潮信息</b>AIStation,大<b class='flag-5'>模型</b>开发<b class='flag-5'>效率</b><b class='flag-5'>提升</b>10倍

    2024 信心满满!19家元脑生态伙伴与浪潮信息签署亿元分销协议

    协议。 拥抱大模型AIGC风口,分销业务变中求进 当前,生成式人工智能和大模型推动需求高速增
    的头像 发表于 12-08 18:18 570次阅读

    浪潮信息刘军:智力系统创新 加速生成式AI产业发展

    北京2023年12月6日 /美通社/ -- 11月29日,在北京举行的2023人工智能计算大会(AICC)上,浪潮信息高级副总裁刘军在主题演讲《智力系统创新 加速生成式AI产业发展》
    的头像 发表于 12-06 14:08 920次阅读
    <b class='flag-5'>浪潮信息</b>刘军:智<b class='flag-5'>算</b>力系统<b class='flag-5'>创新</b> 加速生成式AI产业发展