0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

昆仑芯重磅打造xHuggingface开源推理套件

昆仑芯科技 来源:昆仑芯科技 2023-07-23 09:42 次阅读

新一轮人工智能热潮下,国内大模型群雄逐鹿,目前已有超过80个大模型公开测试。而相关数据显示,ChatGPT自发布以来,全球访问量环比增幅持续下降,6月首次出现环比下滑9.7%。泡沫退去,如何在大模型时代保持市场竞争力?

针对大模型场景,昆仑芯早已在产品定义上作出布局,相较第一代产品,昆仑芯2代AI芯片可大幅优化算力、互联和高性能,而在研的下一代产品则将提供更佳的性能体验。

在近日落幕的XceedCon2023人工智能芯片生态大会上,昆仑芯大模型端到端解决方案正式发布,该解决方案随即入选2023世界人工智能大会卓越人工智能引领者奖(Super AI Leader,简称SAIL奖)TOP30榜单。

昆仑芯副总裁王勇、昆仑芯互联网行业总经理王志鹏先后在XceedCon2023人工智能芯片生态大会、2023世界人工智能大会对昆仑芯大模型端到端解决方案进行发布与推介。本篇以下内容整理自现场实录。

软硬协同、技术创新

打造高性能产品矩阵

集十余年AI加速领域研发积累,昆仑芯核心团队于2017年在Hot Chips上发布自研、面向通用人工智能计算的芯片核心架构——昆仑芯XPU。目前,已有两代昆仑芯AI芯片基于该架构实现量产和规模部署。

昆仑芯XPU专为密集型计算而设计,相比GPU可提供更多AI加速单元,同时支持C/C++、类CUDA语法编程,兼具高性能和可编程性,适配几乎所有主流AI场景,满足不同行业的大模型训推需求。

大模型的演进必将伴随参数量的增加,更加依赖于分布式训练与推理能力。昆仑芯2代系列产品搭载新一代核心架构XPU-R,性能相较一代提升2-3倍,在分布式场景中优势明显。

01.

大显存

昆仑芯2代产品拥有32GB显存容量,在同价位产品中内存优势突出。

02.

高互联

昆仑芯通过领先技术,可实现单机八卡高速互联,带宽达到200GB/s;支持Direct RDMA,可实现跨机间低延时、高速通讯。

昆仑芯推出针对不同参数级别的大模型产品矩阵,兼具显存和算力成本优势。

昆仑芯AI加速卡R200-8F面向百亿以内参数量级,相比同类型产品性能提升20%;

昆仑芯AI加速器组R480-X8面向百亿至千亿参数量级,性能达到同类型产品的1.3倍以上;

昆仑芯AI加速器组R480-X8集群针对千亿以上参数量级,可实现多机多卡分布式推理。

昆仑芯大模型解决方案软件栈

软件生态层面,昆仑芯提供了针对大模型场景的专用加速库、丰富的云原生插件,支持文心一言、LLaMA、Bloom、ChatGLM、GPT等行业主流大模型。

昆仑芯XFT(XPU Fast Transformer)推理加速库,较原生框架小算子版本性能提升5倍以上。目前,XFT加速库已与百度飞桨、PyTorch等主流深度学习框架完成适配;

昆仑芯云原生插件可帮助用户快速完成和大模型平台的适配;同时提供昆仑芯SDK,帮助用户快速完成适配和实时自定义开发。

昆仑芯xHuggingface开源推理套件

此外,昆仑芯全面拥抱开源社区,积极携手生态伙伴构建软硬一体的AI芯片生态。

昆仑芯打造了xHuggingface开源推理套件,仅修改1-2行代码,即可快速搭建基于XPU的智能客服APP。同时,昆仑芯与飞桨PaddlePaddle的AI Studio社区紧密合作,基于xHuggingface开源推理套件向广大开发者提供更快、更强、更省的算力产品;

昆仑芯与飞桨深入协同适配行业主流大模型,可支持超大规模分布式训练与推理。针对稠密大模型,昆仑芯支持飞桨的Sharding并行、数据并行、模型并行、流水线并行四种并行方式;针对稀疏大模型,昆仑芯与飞桨共同打造大规模参数服务器架构,实现了万亿参数的大模型训练。

深入场景、真实历练

打磨端到端解决方案

昆仑芯深入了解不同应用场景下客户的真实需求,凭借软硬协同技术与高性能产品矩阵,为千行百业提供开箱即用的产品和全栈式AI服务。

大语言模型场景

昆仑芯推理加速方案

目前,昆仑芯已与业界主流开源大模型完成适配,向客户开放开源软件库,供客户进行二次修改、微调,满足不同推理场景下的个性化定制需求。

GPT百亿参数大模型场景:昆仑芯产品的QPS相比主流165W产品提高30%以上,同时首字时延更低。

文心一格:目前已大规模应用昆仑芯产品,成本降低的同时,可实现2秒快速出图。

昆仑芯训练产品总览

针对大语言模型训练场景,昆仑芯也可提供一整套精调的训练策略。目前,昆仑芯已适配pretrain、post-pretrain、SFT、LoRA等模型,可根据客户的数据量与计算资源情况,灵活推荐不同的训练模式。

能源行业:昆仑芯解决方案通过SFT训练模式,客户仅使用少量数据即可2天打造专属行业大模型。

智源研究院:昆仑芯和智源研究院在大模型方面已有深入合作。昆仑芯已完成和Aquila大语言模型推理任务的适配、精度调试和性能优化,并实现大规模分布式推理上线,训练任务适配优化中;同时也适配了智源eva视觉大模型,初步验证了大规模分布式预训练能力。

稀疏大模型推荐场景

稀疏大模型存在训练门槛高、算力消耗大等技术挑战。对于算法和模型持续高频迭代的推荐场景,昆仑芯始终将“安全可信”、“从GPU零成本无缝迁移”作为目标,实现训练与推理系统的紧密耦合,为客户降本增效。目前,昆仑芯已与互联网头部客户完成了训练场景的端到端联合开发,并在TB级以上稀疏大模型上完成了“替换主流GPU的全量上线”。

大模型的持续迭代加速了我国AI技术及AI产业的演进,利好政策的相继出台同时开启了我国大模型商用浪潮。面向未来,昆仑芯将始终坚持软硬协同创新,夯实AI领域综合优势,加速大模型产业落地,勇立大模型时代潮头。

责任编辑:彭菁

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4701

    浏览量

    128705
  • 开源
    +关注

    关注

    3

    文章

    3251

    浏览量

    42402
  • 昆仑芯科技
    +关注

    关注

    0

    文章

    27

    浏览量

    605

原文标题:来了!一文读懂昆仑芯大模型端到端解决方案

文章出处:【微信号:昆仑芯科技,微信公众号:昆仑芯科技】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    昆仑万维天工大模型4.0 O1版即将邀测

    昆仑万维公司近日宣布,其自主研发的天工大模型4.0 O1版(英文名:Skywork O1)将于11月27日正式启动邀请测试。这款模型是国内首款具备中文逻辑推理能力的o1模型,具有里程碑式的意义。
    的头像 发表于 11-19 17:24 417次阅读

    李开复:中国擅长打造经济实惠的AI推理引擎

    10月22日上午,零一万物公司的创始人兼首席执行官李开复在与外媒的交流中透露,其公司旗下的Yi-Lightning(闪电模型)在推理成本上已实现了显著优势,比OpenAI的GPT-4o模型低了31倍。他强调,中国擅长打造经济实惠的AI
    的头像 发表于 10-22 16:54 317次阅读

    国产上运行TinyMaxi轻量级的神经网络推理库-米尔基于驰D9国产商显板

    本篇测评由优秀测评者“短笛君”提供。本文将介绍基于米尔电子MYD-YD9360商显板(米尔基于驰D9360国产开发板)的TinyMaxi轻量级的神经网络推理库方案测试。 算力测试TinyMaix
    发表于 08-09 18:26

    国产上运行TinyMaxi轻量级的神经网络推理库-米尔基于驰D9国产商显板

    本帖最后由 blingbling111 于 2024-8-8 09:23 编辑 本篇测评由与非网的优秀测评者“短笛君”提供。本文将介绍基于米尔电子MYD-YD9360商显板(米尔基于
    发表于 08-07 18:06

    迅为RK3568手册上新 | RK3568开发板NPU例程测试

    是帮助学习和开发用户快速上手使用RKNPU。本手册先介绍梳理瑞开源NPU资料,然后着手搭建环境和工具的使用,最后以瑞开源demo为例,体验和使用RKNPU。 更新内容●教程更新
    发表于 07-12 14:44

    国产上运行TinyMaxi轻量级的神经网络推理库-米尔基于驰D9国产商显板

    本篇测评由与非网的优秀测评者“短笛君”提供。本文将介绍基于米尔电子MYD-YD9360商显板(米尔基于驰D9360国产开发板)的TinyMaxi轻量级的神经网络推理库方案测试。算力测试
    的头像 发表于 07-05 08:02 1825次阅读
    国产<b class='flag-5'>芯</b>上运行TinyMaxi轻量级的神经网络<b class='flag-5'>推理</b>库-米尔基于<b class='flag-5'>芯</b>驰D9国产商显板

    JH-7110 RISC-V开发套件正式开源

    近日,赛昉科技在RVspace生态社区正式开源昉·惊鸿-7110(JH-7110)DevKit开发套件,同时提供其原理图和PCB参考设计源文件,旨在为客户提供全面的RISC-V芯片平台
    的头像 发表于 06-15 08:19 422次阅读
    JH-7110 RISC-V开发<b class='flag-5'>套件</b>正式<b class='flag-5'>开源</b>

    昆仑万维开源2千亿稀疏大模型Skywork-MoE

    近日,昆仑万维公司宣布开源一款名为Skywork-MoE的稀疏大模型,该模型拥有高达2千亿参数,不仅性能强劲,而且推理成本更低,为人工智能领域带来了新的突破。
    的头像 发表于 06-04 14:44 543次阅读

    AI推理框架软件ONNX Runtime正式支持龙架构

    近日,知名AI推理框架开源社区ONNX Runtime正式发布支持龙架构的版本1.17.0。
    的头像 发表于 03-12 12:23 545次阅读
    AI<b class='flag-5'>推理</b>框架软件ONNX Runtime正式支持龙架构

    上交所终止昆仑联通主板上市审核

    近日,上海证券交易所公开的信息显示,北京昆仑联通科技发展股份有限公司(以下简称“昆仑联通”)及其保荐机构东方证券已经撤回了发行上市申请。基于这一决定,上海证券交易所终止了对昆仑联通发行上市的审核。
    的头像 发表于 03-11 14:59 625次阅读

    昆仑联通终止上交所主板IPO

    上海证券交易所(上交所)近日宣布,已终止对北京昆仑联通科技发展股份有限公司(以下简称“昆仑联通”)首次公开发行股票并在主板上市的审核。这一决定意味着昆仑联通的上市计划暂时受挫。
    的头像 发表于 03-05 13:55 613次阅读

    昆仑联通主板IPO撤单

    北京昆仑联通科技发展股份有限公司(以下简称“昆仑联通”),一家专业的IT基础架构解决方案提供商,近日因其及保荐人主动撤回发行上市申请,上海证券交易所(上交所)决定终止其发行上市审核。
    的头像 发表于 03-04 17:05 797次阅读

    昆仑联通IPO申请被终止

    北京昆仑联通科技发展股份有限公司(简称“昆仑联通”)的IPO申请已被终止,这是因为公司及其保荐人撤回了发行上市申请。
    的头像 发表于 03-04 09:33 507次阅读

    昆仑联通终止上交所主板IPO

    北京昆仑联通科技发展股份有限公司(简称“昆仑联通”)的发行上市审核已被上海证券交易所终止。这是因为昆仑联通及其保荐人撤回了发行上市申请,根据相关规定,上交所决定终止其发行上市的审核程序。
    的头像 发表于 03-04 09:29 590次阅读

    原与谷歌携手合作开源项目Open Se Cura

    2023年12月19日,中国上海——原股份 (原,股票代码:688521.SH) 今日宣布与谷歌合作支持新推出的开源项目Open Se Cura。
    的头像 发表于 12-19 09:07 422次阅读