0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

昆仑芯科技产业级AI模型部署全攻略

昆仑芯科技 来源: 昆仑芯科技 作者: 昆仑芯科技 2022-12-28 10:27 次阅读

12月28日,昆仑芯科技将联合百度飞桨FastDeploy团队带来“产业级AI模型部署全攻略 -昆仑芯科技专场”直播课程,就产业AI硬件部署解决方案进行交流,届时会详细讲解昆仑芯AI加速卡R200特性,并实战昆仑芯科技硬件与FastDeploy如何快速完成AI模型部署。

共同探讨AI部署相关话题

关于FastDeploy

为了解决AI部署落地难题,百度飞桨发布了新一代面向产业实践的推理部署工具FastDeploy,旨在为AI开发者提供模型部署最优解。FastDeploy具备全场景、简单易用、极致高效两大特点,可满足开发者对高性能部署的需求,大幅提升AI产业部署的开发效率。

全场景:多端部署,统一部署API,一行代码切换不同推理后端和推理硬件;多框架支持,一行命令实现其他深度学习框架到飞桨以及ONNX的相互转换;多硬件适配,目前支持X86 CPU、NVIDIA GPU、Jetson、昆仑芯XPU、GraphcoreIPU、ARM CPU(联发科瑞芯微树莓派高通等硬件)、瑞芯微NPU、晶晨NPU、恩智浦NPU等十多类AI硬件。

简单易用:多语言统一模型API,三行代码搞定AI模型部署。模型丰富,预置飞桨和生态的150+产业级SOTA模型,覆盖Text、Vision、Speech、Cross-modal四大领域;覆盖20+主流应用场景,算法场景包括图像分类、图像分割、语义分割、物体检测、字符识别(OCR)、人脸检测、人脸关键点检测、人脸识别、人像扣图、视频扣图、图像超分、姿态估计、文本分类、信息抽取、文图生成、行人跟踪、语音合成等。

极致性能:联合自动压缩工具与推理引擎深度联动的能力以及AI模型前后预处理加速库的优化,实现AI模型端到端极致的推理性能。

关于昆仑芯科技

昆仑芯科技深耕AI加速领域10余年,专注打造拥有强大通用性、易用性和高性能的通用人工智能芯片。目前,昆仑芯科技已实现两代通用AI芯片产品的量产及落地应用,在互联网、智能制造、智慧交通、智慧金融等领域均已实现规模部署。在云端推理训练均有完备覆盖的基础上,应用于边缘场景的昆仑芯AI加速卡R100已正式发布,进一步扩充落地场景。更先进的第三代、第四代芯片产品正在研发中。

昆仑芯科技致力于构建软硬一体化的AI芯片生态,打造从芯片到终端、应用、云端、服务的生态闭环。此前,昆仑芯2代AI芯片及AI加速卡与飞桨完成III级兼容性测试,兼容性表现良好。

昆仑芯和飞桨的适配自2018年启动,目前双方已共同完成框架层面的适配,支持XPU Device及大部分算子。在双方合作的训练部分中,昆仑芯XPU和飞桨的适配在一些场景下能够做到通过仅切换一行代码便可指定到昆仑芯XPU的后端,低成本地从CPU/GPU切换到昆仑芯,满足绝大部分用户的需求。目前,昆仑芯软件栈已集成到飞桨上,完成对接与支持。此外,双方已经完成了多款主流CPU及操作系统的适配,方便广大开发者和用户更高效、更便捷地开发。

昆仑芯科技的使命是“让计算更智能”,愿景是“成为划时代,全球领先的智能计算公司”。昆仑芯科技始终致力于成为芯片创新链、产业链的“赋能者”,与上下游企业携手,通过用算力赋能不同场景中的AI应用,驱动千行百业的智能化转型。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • API
    API
    +关注

    关注

    2

    文章

    1483

    浏览量

    61799
  • AI
    AI
    +关注

    关注

    87

    文章

    30072

    浏览量

    268342
  • NPU
    NPU
    +关注

    关注

    2

    文章

    269

    浏览量

    18538
  • 飞桨
    +关注

    关注

    0

    文章

    33

    浏览量

    2277
  • 昆仑芯科技
    +关注

    关注

    0

    文章

    27

    浏览量

    604

原文标题:直播预告|明晚20:30锁定『产业级AI模型部署全攻略 - 昆仑芯科技专场』

文章出处:【微信号:昆仑芯科技,微信公众号:昆仑芯科技】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    AI模型部署和管理的关系

    AI模型部署与管理是AI项目成功的两大支柱,它们之间既相互独立又紧密相连,共同推动着AI技术从实验室走向实际应用。
    的头像 发表于 11-21 10:02 51次阅读

    如何在STM32f4系列开发板上部署STM32Cube.AI

    已下载STM32Cube.AI扩展包,但是无法使用,感觉像是没有部署AI模型,我是想要通过摄像头拍照,上传图像后,经过开发板处理器进行AI
    发表于 11-18 09:39

    企业AI模型部署怎么做

    AI模型部署作为这一转型过程中的关键环节,其成功实施对于企业的长远发展至关重要。在此,AI部落小编为您介绍企业AI
    的头像 发表于 11-04 10:15 99次阅读

    k8s可以部署私有云吗?私有云部署全攻略

    Kubernetes(简称K8S)可以部署私有云。Kubernetes是一个开源的容器编排引擎,能够自动化容器的部署、扩展和管理,使得应用可以在各种环境中高效运行。通过使用Kubernetes,企业可以在自己的数据中心或私有云环境中搭建和管理容器化的应用,实现高度的灵活性
    的头像 发表于 10-25 09:32 121次阅读

    四大企业联手共建昆仑模型

    中石油、移动、华为以及科大讯飞共同签署协议,合力构建昆仑模型,以推进人工智能在能源化工领域的广泛应用与深化研究。
    的头像 发表于 05-30 14:20 578次阅读

    中国石油、中国移动、华为、科大讯飞将共建昆仑模型

    近日,一场备受瞩目的昆仑模型建设研讨会暨合作共建签约仪式在北京盛大举行。在这一历史性的时刻,中国石油、中国移动、华为、科大讯飞四家企业共同签署了昆仑模型合作共建协议,标志着
    的头像 发表于 05-30 09:18 790次阅读

    格灵深瞳荣登「2024中国AI模型产业应用场景创新实践」榜单

    近日,由中国科技产业智库甲子光年主办、中关村东升科学城协办的「AI创生时代——2024甲子引力X科技产业新风向」大会在北京举办。
    的头像 发表于 05-20 11:16 410次阅读
    格灵深瞳荣登「2024中国<b class='flag-5'>AI</b>大<b class='flag-5'>模型</b><b class='flag-5'>产业</b>应用场景创新实践」榜单

    雾化配件外观尺寸检测全攻略

    雾化是电子烟或雾化器中的一个重要组件,它起着将液体状的烟油转化为雾化状态的作用。通常,雾化由棉(或其他吸液材料)和线圈(或发热丝)组成。线圈在加热的作用下将烟油雾化成雾气,而棉
    的头像 发表于 05-14 16:37 254次阅读
    雾化<b class='flag-5'>芯</b>配件外观尺寸检测<b class='flag-5'>全攻略</b>

    天线设计攻略简要概述 带你玩转PCB和WIFI

    给大家分享干货啦!天线设计全攻略,带你玩转PCB和WIFI
    的头像 发表于 05-08 14:42 1462次阅读
    天线设计<b class='flag-5'>攻略</b>简要概述 带你玩转PCB和WIFI

    重磅揭秘!智能手表选购全攻略,让你秒变科技达人!

    。在这个琳琅满目的智能手表世界里,怎么找到你的“真命天表”呢?别急,跟着这篇选购宝典,让你轻松选到最适合自己的智能手表,就让我们一起探索智能手表的选购全攻略,让你秒变科技达人! 一、明确需求:我为什么需要智能手
    的头像 发表于 04-19 17:24 605次阅读

    2024中国AI模型产业发展报告

    日前,人民网财经研究院、至顶科技联合发布《开启智能新时代:2024年中国AI模型产业发展报告》(以下简称《报告》),对于AI模型
    的头像 发表于 03-30 08:26 744次阅读
    2024中国<b class='flag-5'>AI</b>大<b class='flag-5'>模型</b><b class='flag-5'>产业</b>发展报告

    使用CUBEAI部署tflite模型到STM32F0中,模型创建失败怎么解决?

    看到CUBE_AI已经支持到STM32F0系列芯片,就想拿来入门嵌入式AI。 生成的模型很小,是可以部署到F0上的,但是一直无法创建成功。 查阅CUBE
    发表于 03-15 08:10

    昆仑万维发布新版MoE大语言模型天工2.0

    昆仑万维科技今日震撼发布全新升级的「天工2.0」MoE大语言模型以及配套的新版「天工AI智能助手」APP。此次更新标志着国内首个搭载MoE架构的千亿参数大语言
    的头像 发表于 02-06 16:19 1225次阅读

    CAD绘图技巧全攻略

    CAD的版本转换 A、CAD高版本可以打开所有低版本的图纸 B、CAD低版本不可以打开高版本的图纸 C、高版本转成低版本的方法,直接点击另存为,将文件类型可以改成任意的低版本 D、将低版本转换成高版本,比较复杂,需要第三方软件,也就是版本转换器。
    的头像 发表于 01-19 10:16 846次阅读
    CAD绘图技巧<b class='flag-5'>全攻略</b>

    【爱派 Pro 开发板试用体验】部署派官方YOLOV5模型

    继上文开箱后,本文主要依托爱元智官方的实例,进行官方YOLOV5模型部署和测试。 一、环境搭建 由于8核A55的SoC,加上目前Debian OS的工具齐全,所以决定直接在板上编译程序
    发表于 12-12 22:58