阿里MNN支持华为NPU，优化MNN的性能和精度问题
今天上午据软件绿色联盟消息，阿里MNN已经接入华为 HiAI生态，正式支持华为NPU。
据了解，阿里MNN为Mobile Neural Network，是阿里巴巴淘系技术部开源的端侧推理引擎，目前已覆盖淘宝、天猫、优酷和UC等20多个手机应用，每天稳定运行超过500亿次，已经接受了两届“双11”的考验。
官方表示，当App功能日益强大时，性能和精度的矛盾就逾显尖锐；官方表示利用HiAI Foundation芯片能力开放，阿里MNN快速转化和迁移已有模型，并借助异构调度和NPU加速，大幅提升应用算力和能效比，可以优化MNN的性能和精度问题。比如会加快以图搜图的搜索速度，耗电方面也会降低；此外，扫商家Logo也是运用了此功能。
责任编辑：gt
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。
举报投诉
-
华为
+关注
关注
216文章
34433浏览量
251697 -
阿里
+关注
关注
6文章
438浏览量
32830
发布评论请先 登录
相关推荐
NPU支持的编程语言有哪些
NPU（Neural Processing Unit）是一种专门为深度学习和人工智能应用设计的处理器。NPU支持的编程语言通常与它所集成的平台或框架紧密相关。以下是一些常见的编程语言和框架，它们可以
NPU的工作原理解析
随着人工智能技术的快速发展，深度学习算法在各个领域得到了广泛应用。为了满足日益增长的计算需求，NPU应运而生。 NPU的基本概念 NPU是一种专用硬件加速器，专门为深度学习算法设计。它通过优化
如何选择合适的NPU型号
、智能家居等）来选择NPU。不同场景对NPU的性能、功耗、灵活性等要求不同。 性能需求 ： 确定您需要的计算性能，包括TOPS（每秒万亿次浮
NPU在边缘计算中的优势
和GPU相比，NPU在处理神经网络相关的计算任务时，能够提供更高的能效比和更快的处理速度。NPU通过优化数据流和计算结构，使得神经网络的前向传播和反向传播更加高效。 NPU在边缘计算中
NPU技术如何提升AI性能
随着人工智能技术的飞速发展，深度学习作为AI领域的核心驱动力，对计算能力的需求日益增长。NPU技术应运而生，为AI性能的提升提供了强大的硬件支持。 NPU技术概述
什么是NPU芯片及其功能
在人工智能（AI）技术迅猛发展的今天，NPU芯片已经成为推动这一领域进步的关键技术之一。NPU芯片，即神经网络处理单元，是一种专门为深度学习算法设计的硬件加速器。 一、NPU芯片的概念 NPU
NPU与GPU的性能对比
NPU（Neural Processing Unit，神经网络处理单元）与GPU（Graphics Processing Unit，图形处理单元）在性能上各有千秋，它们各自的设计初衷和优化方向决定了
NPU在深度学习中的应用
设计的硬件加速器，它在深度学习中的应用日益广泛。 1. NPU的基本概念 NPU是一种专门针对深度学习算法优化的处理器，它与传统的CPU和GPU有所不同。NPU通常具有高度并行的处理能
什么是NPU？什么场景需要配置NPU？
在人工智能（AI）技术如火如荼的今天，NPU神经处理单元（Neural Processing Unit）作为一种新兴的硬件加速器，正在成为ARM主板配置中的新宠。与传统的CPU和GPU相比，NPU在
NXP推出集成NPU的MCU，支持AI边缘设备！MCU实现AI功能的多种方式
旨在显著节省功耗，可在边缘端提供高达172倍的AI加速。 MCU 集成NPU 支持AI 功能 恩智浦推出的这款i.MX RT700内部集成了恩智浦自研的eIQ Neutron NPU，这是一种
宝砾微25V双口充电管理高性能MCU支持PD协议
12-bit高精度ADC
☆ 内置NTC检测电路* 多重保护功能、高可靠性
☆ 输出过压、欠压保护☆ 输出过流、短路保护
☆ 过温保护
☆ CC1、CC2、DP、DM支持30V耐压* 工作范围
☆ 工作电压
发表于 09-24 10:33
名单公布！【书籍评测活动NO.43】 算力芯片 | 高性能 CPU/GPU/NPU 微架构分析
和像素统一的G80到现在重金难求的H100；AMD的Zen系列CPU和RDNA系列GPU两线作战；中国的高性能计算芯片逐步获得更多TOP500排名；华为Ascend 910 NPU芯片也成为AI时代
发表于 09-02 10:09
基于RK3588的NPU案例分享！6T是真的强！
设计能够实现高效的神经网络推理计算。这使得RK3588在图像识别、语音识别、自然语言处理等人工智能领域有着极高的性能表现。此外，RK3588的NPU还支持多种学习框架，包括TensorFlow
发表于 07-17 10:55
芯品# 物联网市场性能最高的 NPU
提高数据隐私和安全性。 Arm 的 Ethos NPU 如何增强边缘和端点的 AI 性能？ 多年来，Arm 一直在开发边缘 AI 加速器，以支持对边缘和端点推理工作负载日益增长的需求。通过 Arm 的 Ethos-U55 和 E
微软画图即将支持NPU，Windows内置应用AI功能持续优化
神经网络处理单元（NPU），作为一款Win11笔记本上的专属硬件组件，主要承担AI及机器学习任务处置。相较于云服务或通CPU，NPU能有效提升本地设备的AI任务处理能力。
工商网监
评论