0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

HUAWEI HiAI Foundation 开放架构助力开发者高效灵活开发

华为麒麟 来源:华为麒麟 作者:华为麒麟 2021-12-03 09:06 次阅读

上月,华为开发者大会2021《HDC.Together》在美丽的松山湖畔召开,华为专家、行业大咖和全球开发者齐聚一堂,携手碰撞全场景万物智慧互联新时代的火花。作为芯片使能的基础平台,HUAWEI HiAI Foundation带来以《端云协同,HUAWEI HiAI Foundation打造更易用的AI计算平台》为主题的技术交流,与开发者共同探讨AI应用开发的创新技术与未来趋势。

自2017年麒麟970发布至今,端侧AI经历了开创先河到产业快速发展的巨变。一方面,麒麟芯片的AI性能不断突破,为一代又一代终端设备提供更强大的算力加持;另一方面, HUAWEI HiAI基于“芯、端、云”三层开放架构,让开发者更简单快捷地应用华为的AI能力,构筑全面开放的智慧生态。

作为麒麟芯片计算能力的开放平台,HUAWEI HiAI Foundation提供300+算子支持,具备业界最佳的模型兼容性,将芯片AI算力更好更直接地开放给开发者。此外,HUAWEI HiAI Foundation还推出端云协同、模型可视化、Model Zoo、自主调优工具包、多IP深度协同等多种解决方案和能力,为众多业务场景打造更高性能更低功耗的计算环境,助力开发者快速开发和部署AI应用。

从平台架构来看,HUAWEI HiAI Foundation衔接智慧业务和计算芯片,上层支持MNN、TNN、华为MindSpore Lite、Paddle Lite、KwaiNN等合作伙伴的框架对接,利用推理加速平台(Foundation DDK)和异构计算平台(Foundation HCL)将AI任务调入NPU/CPU/GPU/DSP等IP中进行计算,赋能手机、平板、智慧屏、车机、手表等终端设备,将更多好玩酷炫的AI应用带到消费者面前。

(HUAWEI HiAI Foundation 开放架构)

五大性能优势,助力开发者高效灵活开发

• 端云协同:针对新业务场景算子以及已有典型业务场景算子,提供性能优化、快速升级平台能力的解决方案

当前,AI业务和算法模型都在持续快速演进,AI计算平台适配新业务和新算法快速升级成为难题。端云协同具备可变的计算框架、广适的模型结构,助力开发者快速支持新模型、上线新业务,让消费者快速获得端侧AI带来的体验提升。

以往,消费者想要体验到最新的AI功能与服务,需要等算子库更新,而算子库内置在手机ROM中,手机新版本更新,算子库才能随之更新。当旧手机的ROM不再更新,算子库的更新便成为难题。端云协同能够让老手机用户不受终端版本的限制,更灵活地享受更新、更优质的服务。基于华为端芯云三端打通的优势——底层是计算芯片及HUAWEI HiAI Foundation,端侧有预置的HiAI Engine,云侧有自己的计算库插件更新云,HUAWEI HiAI Foundation可以将算子库放到云端。当有新支持的算子或性能优化发布后,HUAWEI HiAI Foundation会在闲时静默自动更新新的算子库,开发者只需在APP开发时正常调用,无感使用升级后的计算能力,让老手机焕发新生机。

(HUAWEI HiAI Foundation端云协同)

未来,HUAWEI HiAI Foundation将利用这条端云协同的通路进一步放大端侧AI能力,通过端云协同的算子搜索、融合策略、异构分段策略等技术赋能NPU机型,快速且低成本解决开发者的技术难题,支撑更多视频、文本、语义等业务的上线。

• Model Zoo:辅助开发者优化模型结构,更好地利用麒麟芯片NPU加速优势

开发者在业务开发过程中,为了最大程度利用芯片算力,不可避免地需要针对麒麟芯片的硬件结构做一些模型调整,这个过程可能会出现效率低,资源利用不足的情况。HUAWEI HiAI Foundation打造Model Zoo,将麒麟芯片NPU友好的模型结构、Backbone、算子放进去,供开发者自行挑选,辅助其优化模型结构,更好的发挥麒麟芯片NPU的加速优势。HUAWEI HiAI Foundation的底层模型结构可视化已经在Netron工具适配上线,方便开发者开发调试。

• 模型量化工具包:让开发者的APP更快、更小

正常情况下,开发者训练的模型是32bit,这样的模型计算精度固然高,但对手机功耗和内存的要求也比较高。HUAWEI HiAI Foundation为开发者提供模型量化工具包,在满足计算精度的前提下,可以把原始模型直接量化为更小、更轻便且最适合NPU结构的低比特模型,无需开发者做二次调整,从而节省手机空间,降低计算资源的消耗。

模型量化工具包支持无数据量化和训练感知量化,以达到性能与精度的平衡;支持8bit/4bit+2bit模型量化,支持自适应混合量化,实现模型性能与大小的平衡。譬如,开发者基于ResNet50、InceptionV3等典型网络模型进行量化,量化后的int8模型在精度几乎不损失的情况下,模型大小仅为原来FP32模型大小的四分之一。

(HUAWEI HiAI Foundation模型量化工具包)

• 网络结构搜索工具包:让网络设计更简单、更有效

网络结构搜索工具包支持多种类型的网络结构搜索任务,包含分类,检测和分割。通过精度,性能目标牵引,协同硬件信息通过最优化搜索算法获得最优的网络结构,得到最佳的性能提升。网络结构搜索工具包支持多种主流训练框架使能,包含:caffe,tensorflow,pytorch。同时针对多种主流硬件平台具有算力和时延建模的能力。

(HUAWEI HiAI Foundation网络结构搜索工具包)

• 多IP深度协同:各计算单元共用DDR内存,提升性能降低功耗

HUAWEI HiAI Foundation在芯片裸算力开放的同时,还具备芯片底层多IP深度协同的优势。多IP深度协同的好处在于,CPU、NPU等各计算IP共用DDR内存,在ISP、CPU、NPU、GPU等IP之间最大程度减少拷贝数据流转的开销,既可提升性能又能降低功耗。

日调用量突破600亿,引领端侧AI行业标准构筑

如今,AI技术在端侧的应用越来越广泛,语音识别、图像识别、图像分割、图像超分、人脸识别、文字识别等已经成为全民通用的技术,消费者期待更好玩的AI应用出现,希望获得更优质的AI应用体验。HUAWEI HiAI Foundation为AI应用开发提供了基础保障,让开发者能够突破性能瓶颈,提高开发效率,节省计算资源,更好地投入到AI玩法的研究与落地中,满足消费者对智慧生活的美好期待。

具体而言,接入HUAWEI HiAI Foundation开放生态的价值体现在高效实时运算、保护隐私和节省成本三个方面。

其一,从隐私保护的角度来看,应用中涉及的用户隐私数据,譬如人脸数据、指纹数据等更应该留在本地,避免上传云端带来不必要的麻烦。HUAWEI HiAI Foundation助力开发者在端侧实现AI计算,能够更好地保障用户隐私安全。

其二,相较于云端计算,端侧计算具有低时延的优势,HUAWEI HiAI Foundation支持更多AI模型在移动端高效运算,避免端云交互所带来的延时和流量开销,提升用户体验。

其三,基于HUAWEI HiAI Foundation直接开放的芯片算力,开发者可以将更多的AI模型部署在端侧,节省开发成本。以视频超分为例,当用户在手机上观看1080P的视频时,如果开发者不使用超分技术,就需要从服务器上刷1080P的高清码流到手机上;反之,如果开发者使用视频超分,则只需要在服务器上刷低分辨率的码流过来,在手机端做超分处理。如此,开发者既可以节省带宽,同时帮用户节省了下载高清码流的流量。

据统计,HUAWEI HiAI Foundation自2018年开放以来,以高性能、低功耗、高易用性收获越来越多的开发者青睐,短短3年间日调用量从100万+增长到600亿+。抖音、剪映、支付宝、淘宝、爱奇艺、美颜相机、轻颜相机、快手、百度地图等头部应用已先后接入HUAWEI HiAI Foundation,利用端侧AI强大的计算能力,为用户打造智能新体验。

(HiAI Foundation日调用量突破600亿+)

以爱奇艺为例,HUAWEI HiAI Foundation芯片开放能力,助推爱奇艺快速实现视频超分AI功能在端侧部署的突破。在爱奇艺V12.1.5版本中,爱奇艺与HUAWEI HiAI Foundation合作在手机端新增了增强画质功能。基于爱奇艺ZoomAI 智能超分算法突出视频画面中的细节纹理,抑制锯齿和底噪,搭配色彩增强算法效果,在完全不影响帧率的情况下完成了视频的实时画质增强处理,让画质变清晰,视频整体画面更显精细。

在双方的合作中,爱奇艺工程师通过与HUAWEI HiAI Foundation进行框架对接,快速将原始模型转换成华为Davinci Model,并通过Davinci Model的调优技术,优化模型结构,充分发挥硬件单元的算力,令模型算子以更低功耗在手机端侧高效运转。在此次部署中,HUAWEI HiAI Foundation还使用图融合调优技术,减少模型算法对DDR的依赖,以提升模型性能降低系统功耗。HUAWEI HiAI Foundation还配备了丰富的调试工具链和模型可视化工具,帮助爱奇艺工程师快速解决对接过程中遇到的功能和性能相关问题。

如果说2017年端侧AI还只是一颗种子,如今随着AI算力不断突破,AI开放平台持续赋能,AI开发者想象力不断迸发,端侧AI已经逐渐生根发芽、茁长成长。为了助力端侧AI行业繁荣发展,HiAI Foundation在优化平台性能的同时,已加入AI标准化组织AITISA(人工智能产业技术创新战略联盟),并参与端侧AI标准草案撰写,共同构筑AI行业标准。据悉,该草案将于2022年正式发布。

原文标题:深度解析:HUAWEI HiAI Foundation如何助力AI应用高效开发?

文章出处:【微信公众号:华为麒麟】欢迎添加关注!文章转载请注明出处。
责任编辑:pj

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    455

    文章

    50727

    浏览量

    423179
  • 华为
    +关注

    关注

    216

    文章

    34417

    浏览量

    251516
  • AI
    AI
    +关注

    关注

    87

    文章

    30754

    浏览量

    268902
  • 计算平台
    +关注

    关注

    0

    文章

    52

    浏览量

    9622

原文标题:深度解析:HUAWEI HiAI Foundation如何助力AI应用高效开发?

文章出处:【微信号:Huawei_Kirin,微信公众号:华为麒麟】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    2024开放原子开发者大会暨首届开源技术学术大会成功举办

    近日,以“一切为了开发者”为主题的2024开放原子开发者大会暨首届开源技术学术大会在武汉成功举办。大会为众多开源项目和开发者提供了广阔的展示空间,为繁荣开源生态注入了强劲动力。与会
    的头像 发表于 12-23 14:23 30次阅读

    软通动力与鸿湖万联亮相2024开放原子开发者大会

    12月20日至21日,由开放原子开源基金会、中国通信学会主办的2024开放原子开发者大会暨首届开源技术学术大会在武汉盛大召开。大会以“一切为了开发者”为主题,旨在贯彻落实国家软件发展战
    的头像 发表于 12-23 13:53 40次阅读

    2024开放原子开发者大会启幕,深开鸿助力开源产业创新发展

    12月20日-21日,以“一切为了开发者”为主题的“2024开放原子开发者大会暨首届开源技术学术大会”在武汉隆重召开。本届大会由开放原子开源基金会、中国通信学会主办,旨在贯彻落实国家软
    的头像 发表于 12-20 18:34 90次阅读
    2024<b class='flag-5'>开放</b>原子<b class='flag-5'>开发者</b>大会启幕,深开鸿<b class='flag-5'>助力</b>开源产业创新发展

    HarmonyOS开发宝典震撼来袭,卓越应用开发之旅一触即发,轻松启程!

    HarmonyOS赋能产品,全面护航开发者从HarmonyOS感知、学习进阶、开发实践至技术支持的全旅程,助力开发者高效
    发表于 12-05 08:57

    香橙派与昇思MindSpore合作提速,软硬结合助力开发者构建创新AI应用

    近日,昇思MindSpore开源社区与香橙派合作成果加速落地,持续为开发者提供普惠的端侧算力与好用的AI框架,软硬结合助力高校AI课程建设,帮助开发者基于昇思MindSporeAI框架及香橙派
    的头像 发表于 11-01 17:02 784次阅读
    香橙派与昇思MindSpore合作提速,软硬结合<b class='flag-5'>助力</b><b class='flag-5'>开发者</b>构建创新AI应用

    KaihongOS 4.1.2开发者预览版正式上线,诚邀开发者免费试用!

    深开鸿在2024开放原子开源生态大会上正式宣布KaihongOS4.1.2开发者预览版全面上线,并向全球开发者开放免费下载。作为KaihongOS不断创新与发展的重要里程碑,此次预览版
    的头像 发表于 09-28 08:07 330次阅读
    KaihongOS 4.1.2<b class='flag-5'>开发者</b>预览版正式上线,诚邀<b class='flag-5'>开发者</b>免费试用!

    KaihongOS 4.1.2开发者预览版正式上线,诚邀开发者免费试用!

    今日,深开鸿在2024开放原子开源生态大会上正式宣布KaihongOS 4.1.2开发者预览版全面上线,并向全球开发者开放免费下载。作为KaihongOS不断创新与发展的重要里程碑,此
    的头像 发表于 09-26 15:59 451次阅读

    涂鸦引领云开发AI浪潮,实用给力的三大开发者工具全新发布!

    ,更以开放的平台架构高效开发工具,为开发者们开辟了一条便捷设备开发的高速通道。接下来,就带大
    的头像 发表于 08-30 12:27 229次阅读
    涂鸦引领云<b class='flag-5'>开发</b>AI浪潮,实用给力的三大<b class='flag-5'>开发者</b>工具全新发布!

    机智云开发者中心:让移动APP应用开发更智能化

    在移动应用市场的蓬勃发展中,开发者们面临着不断提高效率和创新的挑战。为了帮助开发者更好地实现移动应用开发的目标,机智云物联网的新版开发者中心
    的头像 发表于 03-26 16:45 335次阅读
    机智云<b class='flag-5'>开发者</b>中心:让移动APP应用<b class='flag-5'>开发</b>更智能化

    DevEco Studio 4.1带来多种调试能力,助力鸿蒙原生应用开发高效调试

    HUAWEI DevEco Studio不断挖掘、汲取开发者的需求和建议,经过持续打磨和系列升级实现新突破,将全力支持鸿蒙原生应用开发。 为助力
    的头像 发表于 02-04 15:35 738次阅读

    华为宣布HarmonyOS NEXT鸿蒙星河版开发者预览面向开发者开放申请

    华为宣布HarmonyOS NEXT鸿蒙星河版开发者预览面向开发者开放申请,这意味着鸿蒙生态进入第二阶段,将加速千行百业的应用鸿蒙化。
    的头像 发表于 01-29 16:42 1410次阅读
    华为宣布HarmonyOS NEXT鸿蒙星河版<b class='flag-5'>开发者</b>预览面向<b class='flag-5'>开发者</b><b class='flag-5'>开放</b>申请

    您有一份OpenHarmony开发者论坛2023年度总结,请查收~

    帮助提问的开发者解决了问题,被提问的开发者采纳。 OpenHarmony 开发者论坛感谢每一位在论坛上分享知识、交流想法的开发者,让大家共同见证了无数精彩内容的诞生。 展望未来,我们
    发表于 01-26 17:27

    HarmonyOS SDK,助力开发者打造焕然一新的鸿蒙原生应用

    的操作整合在一起,用户一处会用,处处会用。 作为支撑鸿蒙原生应用开发的核心,HarmonyOS SDK 发挥着至关重要的作用。通过关键能力底层化,通用能力全局化,HarmonyOS SDK 持续不断的创新,助力开发能够更加简单
    发表于 01-19 10:31

    鸿蒙原生应用/元服务实战-AGC团队账户

    内部和跨部门之间的数据共享和流转问题,实现高效开发、分发、推广、变现。每个团队中团队成员的上限为200个。 本文主要参考引用华为开发者联盟官方文档
    发表于 01-18 16:38

    涂鸦开发者平台支持三方 IoT 平台平滑迁移部署

    的设备端、边缘端、云平台端、应用端、用户运营端完美融合的涂鸦IoT开发者平台,涂鸦拥有十年全球智能化实践经验及灵活开放开发能力,为客户提供长期稳定的服务。行业领先
    的头像 发表于 12-30 08:15 1017次阅读
    涂鸦<b class='flag-5'>开发者</b>平台支持三方 IoT 平台平滑迁移部署