TinyML人工智能算法的运行离不开计算的硬件 - 微控制器(MCU),借助TinyML工具、NPU的硬件加速以及平台化的部署,大大提升微控制器(MCU)产品的计算效能,为人工智能应用开辟了新的发展市场。众多微控制器厂商的共同参与,也为市场提供了更多更具创新的产品或解决方案。这也将为“兼容机”时代的微控制器(MCU)带来了新的发展机遇,必将会开启新一个赛道。
AI正在推动边缘更加智能化,而边缘设备也让AI无处不在。可以预见,未来十年,AI将成为推动MCU市场增长的主要力量。随着AI深入到边缘和终端装置,边缘计算的发展成为推动全球MCU市场增长的主要趋势之一。以前的AI运算和机器学习主要在云端完成,但现在它们正在逐渐向边缘端发展。而边缘AI并不会止步于手机、电脑这些具备SoC级别算力的终端,而是会继续向着MCU为主控的物联网设备蔓延。随着AI在边缘的落地,硬件CNN在端侧MCU的集成已经成为一种技术趋势。
微控制器(MCU)厂商并购人工智能公司布局TinyML
- 2021年5月,意法半导体收购边缘AI软件专业开发公司Cartesiam
- 2022 年 7 月,瑞萨电子收购了嵌入式AI解决方案优秀供应商Reality Analytics, Inc.(Reality AI)
- 2023 年 5 月 ,英飞凌宣布已收购TinyML初创企业Imagimob公司
- 2023 年 8 月,Nordic公司宣布收购美国人工智能和机器学习公司Atlazo
BTW
ST将推出集成NPU的STM32N6,NXP推出了集成一个DSP协处理器和神经处理单元(NPU)的MCX产品组合,Microchip提供 MPLAB 机器学习开发套件来提升其产品的机器学习能力。
布局TinyML的路径
从目前各微控制器(MCU)厂家和业界的应用情况来看,布局TinyML的路径大致有以下三个:
TinyML工具
集成神经网络处理器(Neural Processing Unit,NPU)协处理器
TinyML平台
相对于大语言模型来说,TinyML 是一种小的或极小规模的机器学习。TinyML本身是一种软件算法,是对数据分析和处理的一种计算处理方法,通过构建机器学习模型来进行推理,业界也有一些通用的TinyML机器学习模型。TinyML需要借助软件和工具对采集来的数据进行分析和处理、推理和验证等。在不断地对模型进行优化处理后,还需要将将其转换为微控制器(MCU)这类性能较弱、资源较少的微控制器(MCU)可以运行的固件。TinyML工具有助于人工智能的开发应用,让复杂的人工智能软件的开发变得简单快捷。
NPU是一种神经网络单元,专用于神经网络的计算,随着人工智能应用对计算资源的需求越来越高、任务越来越复杂,对神经网络的计算需求要求也越来越高,微控制器(MCU)中的ALU(算术运算单元AU和逻辑运算单元LU)不足以支持复杂的神经网络的计算需求,将NPU硬件化并集成在微控制器(MCU)内部作为协处理器,可以大大提升人工智能应用的计算效率。NPU实质上也是一种专用的硬件计算单元。
一般地,基于微控制器(MCU)设计开发的产品,其固件可以用几年,甚至到其生命周期才结束。固件在其验证稳定后一般不再需要更改。随着产品部署规模的不断扩大,产品不断地迭代更新,需要对微控制器(MCU)中的固件进行更新,通过一个平台可以对设备进行较好的管理和维护。而TinyML平台不仅需要对固件进行迭代升级,还可以对数据进行收集、机器学习模型不断地进行训练,不断地优化模型,使得模型的精度越来越高。另一方面,本地的微控制器(MCU)的计算资源,不足以支持大量数据的存储和对模型训练优化等任务。TinyML需要一个高性能的计算平台来支撑人工智能产品的不断迭代。
国内MCU厂商大部分仍处于模仿兼容传统STM32的同质化水平,忙于内卷比拼价格,生存还是个问题,基本上还顾不上未来的布局。
下一个loT市场将重构
根据loTAnalytics的数据,2022年全球活跃的物联网设备连接数达到了143亿个,预计到2027年数量将达到297亿个,年复合增长率达16%。
从通用MCU到IoT MCU,再到具备TinyML特质的IoT MCU,微控制器的发展与整个消费电子设备的演进浪潮紧密相连。单品MCU已经不足以满足当下IoT开发者的需求,选择一颗MCU即选择了一个完整的开发生态。
在AIoT时代,MCU的变化需要兼顾硬件和软件两个方面。
- 在硬件层面,要求更高的处理能力、更多的安全组件、多种连接能力以及更低功耗;
- 在软件层面,操作系统从任务调度发展为IoT OS平台,软件复杂度大幅增加,需要平台级软件及工具;
- 在生态系统层面,各种云服务公司进入嵌入式系统生态圈,并且与算法公司、纯软件公司合作增多。
此外,生态层面的变化也正在拉开大幕。在AIoT时代,众多云服务公司进入到嵌入式领域,MCU需要开放API接口等;而且MCU需要与算法公司进行合作,以适配实现高效算力;操作系统层面云服务厂商的染指也将引发更多的争斗。
而无线模组硬件成本的大幅缩减往往意味着,AIoT行业正在从拓荒期进入成长期,从小规模的摸索尝试转向大规模的经验复制。这表明AIoT时代的嵌入式系统由功能型向体验型方向转型,保持高效就需要分工,并要产生聚集效应实现规模化。
结尾:
在人工智能时代,MCU这个芯片领域的资深前辈仍然能够保持其领先地位,展现出历久弥新的特质。在可以预见的未来,MCU将成为物联网边缘不可或缺的核心组件。我们正在迈入AIoT时代,AI深入到边缘和终端装置,已经是一个长期必然的大方向。做好技术准备国产厂商方能迎接未来转折窗口的挑战。
审核编辑 黄宇
-
微控制器
+关注
关注
48文章
7482浏览量
151008 -
mcu
+关注
关注
146文章
16977浏览量
350208 -
AI
+关注
关注
87文章
30072浏览量
268332 -
人工智能
+关注
关注
1791文章
46820浏览量
237455 -
TinyML
+关注
关注
0文章
42浏览量
1217
发布评论请先 登录
相关推荐
评论