当AIoT遇上tinyML是否会成为MCU供应链下一个新商机

随着物联网(Internet of Thing, IoT)诞生，万物都上网，新产品如果没有「IoT+」或「+IoT」就好像跟时代脱了节。接下来人工智能(Artificial Intelligence, AI)兴起，于是星爷说：「争什么争，把两样掺在一起做濑尿虾牛丸不就得了，笨蛋！」，因此智慧物联网「AI + IoT = AIoT」就理所当然变成最佳的营销术语了。

不过本来只要把各种传感器(Sensor)侦测到的信号利用超便宜的单片微机（Single Chip Microprocessor或Micro Control Unit,MCU）（以下简称MCU）加上通讯模块就能把数据送上云端进行储存及各种智能分析、预测。但随着云端通讯、储存及计算费用的增加，数据隐私及计算结果反应速度的不足，于是大家就把目光重新拉回那个吃苦耐劳又便宜的MCU上，期望在不上网的情况下，在本地端（边缘）就能完成边缘智能(以下简称Edge AI)的运算，所以微型机器学习基金会（tinyML.org）这个国际组识因运而生，提供大家更多的解决方案。

接下来就让我们来进一步了解AIoT、MCU及tinyML的机会在哪里，要如何整合才能变成下一个明星产业。

何谓MCU？为何爆红？

2020年受COVID-19疫情爆发影响，世界大部份的工厂都无法顺利生产及出货，波及各行各业，半导体(IC)产业亦成为重灾区。不论上游的原物料，中游的晶圆代工厂、封装测试厂、设备供货商，到下游的电子、家电、计算机及外围产品无一不受影响。由于整个半导体供应链失序，因此开始出现大缺货现象。刚开始主要在抢高阶芯片（如CPU, GPU, 手机芯片等）产能，后来开始排挤到中低阶微处理器（MCU），间接导致2021年几乎所有MCU个个涨势如虹。

什么是MCU呢？这是一种发展了四十多年的技术，它将运算单元（CPU）、输出入单元（GPIO）、辅助控制单元（Timer, UART, I2C, SPI, ADC等）及内存（Flash, SRAM,EEPROM）整合在同一颗芯片上，相当于把一部计算机塞进一个芯片中，故早期亦将MCU称为「微电脑芯片」。近年来更有许多厂商把无线通信部份（如WiFi, BlueTooth, Zeebee, 4G, 5G等）甚至人工智能所需的神经运算加速单元（如NPU）加入其中。

MCU充斥在我们的日常生活中，食衣住行育乐都能看见它的身影，包括各式家电、行动（穿戴）装置、多媒体设备、电动玩具、物联网产品甚至汽机车的控制及电源管理系统等，让我们越来越不能没有它。另外我们常见的高阶手机芯片功能虽也是包山包海，它属于系统级芯片（System on Chip, SoC），单价高（>US$100），频率速度高、计算能力强，但操作系统、应用程序及内存未包含在芯片中，且鲜少直接用于一般边缘端AIoT产品中，故本文就暂不讨论这类产品。

Fig. 1 嵌入式系统SoC及MCU差异比较图

MCU的优点是体积小、价格便宜（视功能配置，约US$0.5 ~ 20）、功耗极低（mW等级）可使用电池供电、功能强大，从4bit到32bit都有，容易开发，有非常完整的工具链（Tool Chain）及生态体系（Ecosystem），连中小学生在玩的Micro:bit, Arduino开发板都属于MCU的范围。但缺点是系统架构种类及供货商太多，没有统一的开发工具。

另外受限价格因素，通常工作频率不高（MHz等级），程序及内存区域都很小（KByte等级，少数能到MByte），不利大量运算，通常也没有操作系统，仅有少数像Arm Mbed,RTOS能运行在较高阶的MCU上，所以开发出来的程序就很难像手机上的APP一样可以任意运行在不同硬件的手机上。

MCU产业现况

MCU目前是非常成熟产业，包含可以让用户任意自行开发程序运用所有资源的通用型MCU，和搭配专属功能只需少量程序甚至不用写程序的专用型MCU（如LCD驱动，电源管理等）。由于本文会将重点放在讨论MCU如何加入Edge AI相关算法，故仅会列出通用型MCU相关信息。

这里粗略整理一下，国外知名通用型MCU供货商，包括Analog, Atmel, Cypress, Freescale, Infineon, Microchip, NEC, NXP,Renesas, Samsung, Silicon Labs, STMicroelectronics (STM), Texas Instruments(TI), Toshiba, Zilog等（依英文字母顺序排列）。

国产方面大约有五十家，包括中微、中颖、宏晶、雅特力、芯圣、汇春、灵动、晟硅、芯海、乐鑫、贝特莱、兆易、云间、健天、炬芯、国民、复旦、贝岭、巨泉、国芯、东软、沁恒、华芯、希格码、华大、万高、时代、航顺、赛元、峰岹、极海、赛腾、杰发、芯旺、比亚迪及琪浦维。

而MCU指令集依宽度可分为4/8/16/32 bit，依工作架构又可分为复杂指令集（Complex Instruction Set Computer, CISC）和精简指令集（ReducedInstruction Set Computer, RISC），前者主要代表有Intel 8051系列，而后者常见代表则有Arm Cortex-M, RISC-V等系列，而后者有指令工作周期短及省电优势，因此目前RISC已逐渐取CISC。

而Cortex-M4之后的指令集更加入浮点及平行运算（如SIMD）指令集，而RISC-V则有P及V指令子集可以对应。更多MCU分类方式可参考Fig. 2。

Fig. 2 MCU属性分类图。

通用型MCU厂商早期多以Intel 8051（8bit CISC指令集）系列为主，随着技术演进及用途陆续发展出自己（或兼容）的指令集。1985年Arm推出第一颗RISC架构的CPU「Arm1」。Arm是一家不生产实体集成电路（Integrated Circuit, IC）的公司，它只授权知识产权（Intellectual Property Core, IP）给其它公司整合成实体集成电路。

Arm 于2004年推出第一颗32bitRISC指令集的MCU IP 「Cortex-M3」，此后接连发展出Cortex-M （MCU）系列，包括M1, M0, M4, M0+, M7, M23, M33, M35P, M55等，国内几个大厂亦陆续取得授权，生产相关MCU。

近年亦有些厂商不想支付巨额的授权费用或需要更复杂客制化应用，进而转向第五代CPU开源精简指令集RISC-V（V为罗马数字5）发展出自家的MCU。

AIoT与MCU关连

物联网(Internet of Thing, IoT)主要希望万事万物都能上网，让用户能透过网络随时可以得对象的状态，如开关、温湿度及各式传感器，甚至可以下命令（远程遥控）改变对象的工作内容，如电气设备启动停止、冷气照度调整等。所以IoT大致包含几大项目，「感测组件」负责收集对象及环境状态，而「作动组件则改变对象的电气状态或机构动作，而这些输出入须由「微处理器(MCU)」来处理相关运算工作。

另外为了让用户能透过行动通讯装置（如手机、平板等）远程工作，所以还需要透过不同等级的有线及无线「通讯组件」（如Blue Tooth, ZigBee, WiFi, Ethernet, LoRa, NBIoT, 4G等）分段接力将信息传送到云端，必要时还可以把这些数据长期储存在云端。从上述可知MCU在IoT中拌演着非常重要的中介角色。

Fig. 3 智慧物联网架构

过去经常有很多人误解，以为只要一直定时收集一个或多个传感器变化信息或者用户操作记录，计算机就能接着自动提取数据特征或分析预测时序变化，大数据会自动变成人工智能，帮忙预测和决策。

但很遗憾地是后半段的工作通常没人去做，所以根本没有AI + IoT变成AIoT这回事。为什么呢？因为大部份MCU的工程师要搞懂如何把数据从本地（边缘）端串接到云端就已费尽大部份的力气，此时还要让他们再搞懂AI的算法和应用就是难上加难。

若此时搭配一个专业AI工程师直接从云端处理数据，那应该就没问题了吧。不幸地是这里常需结合领域知识，由专业人士进行特征定义及协助标注监督式学式所需的数据集，不然很难取得有用成果。

或许有人会说那用非监督式学习算法（如回归、聚类等）或者采用时序预测模型算法来解决不就好了。但现实上还是要有专业人士协助定义问题及需求，如此提取出的特征和预测的结果才具实务意义。

此时若我们把AIoT的智能能力限缩一些，不要包山包海，不要企图找出通用模型，那或许就较容易找到特定问题的解答。

再来说到云端AIoT，如果你的口袋够深，它几乎拥有无限的储存空间和算力，不管再复杂的算法都没问题。可是当要采用只有几块美金的MCU来完成Edge AI应用时，常用算法要移植到只有数Kbyte到数MByte的程序代码区及数十Byte到数十Kbyte的随机内存区，加上只有数Mhz到数十MHz的计算能力的MCU上时，就很难达成了。因此目前MCU能适用的Edge AI范围就必须有所限制。

tinyML时代来临MCU迅速崛起

人工智能(AI)时代来临，好像不管什么产品只要加上AI两字就能大卖，就像三十多年前家电产品加上「微电脑控制」（其实就是MCU）就能更受消费者青睐。但传统云端式AIoT，不仅产品制造商花费很多，如电费、通讯、储存、计算、训练、布署等维护费用，使用者亦要随之付月费，如此才能持续获得AI服务，所以常会令人却步，认真思考投入后是否划算。

基于上述问题，许多厂商开始思考将AI微型化、本地（边缘）化，以低带宽（甚至完全断网）、低延迟（快速反应）、高隐私（数据不外流）及低成本来完成像智能传感器(Smart Sensor)等微型AI应用，如此就有很大机会能使用中高阶MCU来完成。

基于上述AI微型化理念，许多CPU, GPU, MCU, AI加速计算芯片大厂、AI开发工具及应用厂商纷纷响应，于2019年成立微型机器学习基金会(tinyML Foundation) ，每年定期会举办高峰会，让厂商、学界、社群都能共襄盛举。2021高峰会有近六十个赞助商（如Fig.4 所示）。

根据该基金会对tinyML的定义：「微型机器学习（以下简称tinyML）为一个快速发展的机器学习（Machine Learning）技术和应用领域，包括硬件、算法和应用软件。其能够以极低功耗执行设备上的传感器(Sensor)的数据分析，通常在mW（毫瓦特）以下范围，进而实现各种永远上线（或称常时启动）（Always On）的应用例及使用电池供电的设备。」

这里的ML虽然指的是机器学习，不过亦可延伸解释到深度学习（Deep Learning, DL）甚至人工智能（AI）、边缘智能（Edge AI）。从上述定义可得知tinyML 几乎是锁定MCU及低阶CPU所推动的Edge AI，明显会对未来MCU的市场动能提供新一波的助力。

市售通用型MCU的类型非常多，目前以Arm Cortex-M系列MCU支持的厂商算是最多的（含通用型和专用型），其市占率也是最高的，光2020第4季统计就出货了44亿颗芯片。其规格跨度很大，很容选用到合适的系列，从最小的M0, M0+, M1, M3, M4, M7, M23, M33到M35，最新的M55还有搭配上AI加速计算芯片U55。

由于相同的系列不同厂商制作规格可能有所不同，这里以STM32为例，其工作频率速度可由32MHz (M0+) 到550MHz (M7)，其算力可从75 CoreMark (M0+) 到 3224 CoreMark (M7)。

Fig.5 STM Cortex-M相关产品规格表。

由上述内容可知MCU的普及已帮 AIoT打下很棒的基础，未来若再加上tinyML就能引爆下一波新的微型Edge AI应用。

tinyML开发平台及应用领域

目前tinyML基金会并没有明确的定义那些项目才算是其范围，也没有制定特定的开发框架及函式库（如机器人操作系统ROS），而是开放给硬件及开发平台供货商自行解释及彼此合作。

目前较常见的应用，包括振动侦测、手势（运动传感器）侦测、传感器融合、关键词侦测（声音段分类）、（时序讯号）异常侦测、影像分类、（影像）对象侦测等应用，而所需算力也依序递增。（如Fig. 6所示）

一般来说智能传感器（如声音、振动、温湿度等）大约Arm Cortex-M0+, M3左右就能满足，而智能影像传感器（小尺寸影像）要完成影像分类及对象侦测工作，则需要Cortex-M4, M7甚至要到Cortex-A, R系列。当然亦可使用非Arm系列等价算力MCU完成，就看各开发平台供货商是否有支持。

Fig. 6 Arm MCU等级芯片智能运算能力与适用情境。

通常AI应用程序开发包含有很多步骤，包括数据收集（含非时序型及时序型）、标注（监督式学习用）、模型选用、训练、超参数调整（以下简称调参）、优化，最后才是布署到指定硬件上进行推论、验证及重新训练等工作项目，不论是大型AI应用程序或者小型tinyML应用皆是如此。

不过虽然MCU的执行速度及内存容量勉强可以满足小型AI应用的推论工作，但因MCU速度较慢，内存较小，所以训练、调参的工作多半还是会在落在较高阶的CPU（如Intel Core i7）甚至是GPU（如Nvidia GTX）。

目前常见的AI开发框架有TensorFlow, PyTorch, ONNX, Caffe等，但这些都不适用小型的单板微电脑硬件（如树莓派）运行，更不要说是在MCU上布署。于是就有像TensorFlow Lite for Microcontroller （以下简称TFLM）搭配MCU专用函式库（如ArmCommon Microcontroller Software Interface Standard for Cortex-M, 以下简称CMSIS）的开发组合，确保开发出来的内容一定可以在特定系列的MCU上执行。

由于MCU种类繁多，不同厂牌及家族间兼容性不高，所以很少有开发工具有办法支持所有的MCU，工程师须在开发前要注意是否满足。

Fig. 7 AI应用程序开发流程。

一般来说开发一个AI应用程序需要很多种软件工具及硬件平台才能完成，为了让更多原先使用MCU的工程师能顺利开发tinyML应用，于是许多平台开发商推出了从资料采集一直到布署全部包办的一站式云端开发平台，包括Edge Impulse, AIfES, cAInavas, SensiML等。

有些甚至还有提供调参可视化接口，方便AI工程师了解模型表现能力及调整对策，亦有提供内存（含程序代码及变量）需求表，方便MCU工程师了解资源分配及应用范围。所以有了这样的平台就更能带动用户发展自己的数据集及应用，大大加速了tinyML的发展。

国产MCU厂商的机会与挑战

从以上分析来看，tinyML或者说MCU等级的Edge AI会随着芯片等级升高，价格下跌，让AIoT的应用从云端慢慢转移到本地（边缘）端，同时也会让带有AI算法的MCU成为未来爆量的明星产品，如此便可大幅增加通用型MCU的附加价值，不再沦为红海价格战产品。

从国际主流MCU产品规格来看，现有国产通用型MCU的规格普遍偏低，性价比不足，深究其原因可能是着重在利润较高的专用型MCU上，而忽略通用型MCU的发展，因此可能失去一个翻转产业的大好契机。

虽然国际大厂已在硬件端及平台端都已有充份布局，但tinyML的重点还是在AI应用软件（包括模型开发及优化），若国产MCU供货商能积极自行开发或者大幅投资第三方AI技术供货商产出特定用途AI算法，那就还有机会弥补短期无高性价比产品的缺点。待未来AI应用需求更为聚焦时，推出更高性价比的产品，那真正边缘端AIoT的无限商机就指日可待了。

小结

人工智能(AI)或深度学习(DL)这几年已成为显学，整个生态系也逐渐形成，过往不受重视的tinyML（MCU等级的AI）正在悄悄崛起，且已在国际上受到重视，积极发展中。

若以国内市场巨大的需求支撑，国内厂商加强的半导体设计制作、软韧体及AIoT产品的开发能力，只要大胆投资、积极面对产业变化，急起直追，相信不久的将来中国就会变成另一个世界级Edge AI及tinyML产业的中心。

审核编辑：汤梓红