嵌入式人工智能加速落地，智能未来需要什么？

人工智能重构边缘，将给嵌入式系统注入怎样的新能量？

今年上海国际嵌入式展（Embedded World China 2024）上，贸泽电子携手国际知名原厂Analog Devices、Amphenol、NXP Semiconductors、onsemi、Silicon Labs、VICOR等再度亮相，呈现AMR/机器人、边缘AI、电机控制、嵌入式控制系统、机器视觉、RIFD、人机交互、IoT等一系列技术与应用话题。

不过三天展会看下来，贸博士的总体感受是——嵌入式AI是今年绝对的主角。

对比去年在中国的第一届嵌入式展，各家展商主打的是AI从云端带到边缘端。今年则是聚焦于嵌入式AI已经对嵌入式硬件和系统产生了那些具体的改变和影响，以及未来还将有怎样的硬件创新，尤其是芯片层面的技术创新。

可以说，以ChatGPT为代表所引领的AI新时代，以全场景自动化感知和多模态处理的大模型（LLM, Large Language Model）大大拓展了AI的感知能力，同时拓宽了应用场景。但与此同时，AI对于大算力的需求也进一步引发了大算力硬件的投入需求。这是一次“由软到硬”的产业链传导过程。

AI融入嵌入式系统深刻改变嵌入式硬件现状

值得一提的是，就在今年嵌入式展会开展前一天，苹果在其今年的WWDC上公布了一系列重磅AI战略，包括发布了其人工智能系统Apple Intelligence以及与OpenAI的战略合作，并预告未来的iPhone等终端硬件中将嵌入OpenAI的AI技术。在过去一两年里，苹果在这场由ChatGPT引领的新一轮AI竞赛中的存在感并不强。而这此其一系列发布也显示出这家全球科技大佬“all in AI”的决心。

而随着苹果吹响AI向智能终端加速渗透的冲锋号，也预示着“大模型AI +硬件”大规模产品化开始。这对于整个电子产业链的带动效应也将逐步显现，从芯片到传感器、摄像头、连接器等元器件、模组等电子产业链上下游各个节点都有望获得新的增长动力，同时也将启动更多的嵌入式硬件的创新。

据分析机构Canalys预测，2024年，全球16%的智能手机出货为AI手机，到2028年，这一比例将激增至54%。受消费者对AI助手和端侧处理等增强功能需求的推动，2023年至2028年间，AI手机市场以63%的年均复合增长率增长。

到2028年;AI手机市场份额将达到54%：

贸博士注意到，在今年嵌入式的主题演讲中，业内专业人士及相关产业链厂商也都将话题聚焦在AI的新突破给嵌入式系统带来的变革，以及AIGC（生成式AI）的入口是什么等一系列话题上。其中一大共识是，AIGC的入口很大程度将在“始终在线”的轻量化智能可穿戴设备领域。通过硬件终端，感知视觉、声音、动作等，并连接到系统上，通过上下文意识来预测用户的环境、情境和需求。这将带动一些嵌入式硬件的新增量以及新一波创新需求。

中关村智用人工智能研究院院长孙明俊指出，AI将会融入嵌入式系统中并深刻地改变嵌入式系统硬件。比如大量的传感器被改变了，包括音频领域的麦克风阵列，视频领域中的摄像头、传感器等。而在AI大模型时代，新一代的硬件将会持续出现，至于会呈现怎样的状态，这取决于多项技术的同时进步突破，跨领域技术的融合叠加，这也是未来3-5年嵌入式系统硬件的重要挑战。

近年来，各厂商都不约而同地认定，语音交互是未来交互的主流方案。随着AI加持端侧人机语音交互功能趋势渐显，智能语音助手用户数量还有望进一步增长。根据eMarketer的数据显示，到2025年，预计使用谷歌助手的用户数量将达到9190万，而Siri的用户数量则有望达到8650万。而随着以iPhone新版Siri为代表的语音助手带动人机语音交互需求提升，升级麦克风功能将成为实现AI技术应用的关键一环。因而麦克风或为新增量方向。

据科创版日报援引供应链消息称，苹果的iPhone 16系列将采用指向性麦克风（定向麦克风）作为标配。这种设备能集中捕捉来自特定方向的声音，同时对其他方向的噪音有较强的抑制作用，同时还具备更好的防水性。对此，知名分析师郭明錤预计，新款iPhone配备先进麦克风技术以及iOS18升级预计将导致每部iPhone16的麦克风平均售价（ASP）大幅上涨100%-150%。

德邦证券的研报分析指出，电子设备厂商及智能手机厂商对麦克风更高信噪比及性能的需求有望带动价值量提升。因为AI语音交互趋势下，高信噪比MEMS麦克风有望被苹果之外的更多安卓厂商采用，并且逐渐从AI手机进一步渗透到AI PC、AI音箱等更多智能硬件终端应用中。

在贸泽电子代理的原厂中就有不少提供优秀MEMS麦克风产品的厂商。比如TDK InvenSense ICS-40800低噪声定向MEMS麦克风具有70dBA超高信噪比(SNR)和±1dB灵敏度容差，适合用于远场语音控制和语音应用。该产品的典型应用场景包括平板电脑、电话会议系统、数码相机、通信耳机、安全和监控等。另外，还有CUI Devices宽频MEMS麦克风，信噪比为62dBA或64dBA，灵敏度等级为-38dB，灵敏度容差低至±1dB，非常适合用于各种便携式消费电子产品。

大算力硬件稀缺芯片技术创新构建AI算力引擎

而很多业内分析也指出，AI模型巨头和智能手机巨头的紧密绑定将大幅提升AI大模型产品的渗透率。由此产生的推理算力需求和间接产生的训练算力需求将对整个AI算力产业链形成催化。可以说，AI手机等终端硬件与AI大模型双向赋能。

芯原董事长戴伟民在嵌入式展期间的一场主题演讲中提出的关于“两轮科技牛市”的论述和预测让贸博士颇有印象。他指出，上一轮科技“牛市”发生在2010年，是“先硬后软”——由硬件领域的创新突破开启，代表性事件是iPhone 4的诞生，开启了智能手机引领的移动互联网“牛市”(2013-2015)；而这一轮“牛市”则是“先软后硬”，代表事件是2023年ChatGPT的问世，他预测由AI大模型引领的大算力硬件的“牛市”将从2026年开启。

因为当前的产业现状是，大算力硬件非常缺乏。从芯片技术层面的创新突破来为AI提供算力引擎尤为关键。

Chiplet（芯粒或小芯片）技术赋能AI大模型算力的潜能正在显现。Chiplet是一种将复杂芯片拆分成多个小型、独立且可复用的模块的设计方法。这些模块可以是处理器核心、内存芯片、传感器或其他类型的集成电路，它们通过高速接口或连接器相互连接，形成一个完整的系统芯片(SoC)。与传统单片IC设计相比，Chiplet通过将大型芯片拆分成多个小型、独立的模块的设计方法，实现像“搭乐高积木”一般的模块化灵活组装设计，可以显著降低设计复杂性，实现更高的灵活性、可扩展性和可复用性。因为每个模块都可以独立设计和生产，然后根据需要进行组合，这不仅提高了设计的灵活性，还促进了跨厂商和跨领域的协同设计和优化。

近年来，Chiplet市场获得了极大的关注和增长。这一趋势是由多种因素推动的，包括现代电子设备的复杂性和需求不断增加、加快上市时间的需求以及有效利用专业半导体技术的愿望，以及对定制和专用集成电路（ASIC）不断增长的需求也推动了这一趋势。

而AI对大算力的需求也将推动Chiplet技术的发展。因为AI训练、推理需要大量高性能、高可靠性的服务器芯片来支持各种计算和存储任务。通过将服务器芯片拆分为多个小型、独立的计算和存储模块，可以实现更高效、更可靠的计算和存储服务。据研究机构Omida统计，微处理器是Chiplet最大的细分市场，支持Chiplet的微处理器市场份额预计将从2018年的4.52亿美元增长到2024年的24亿美元。

据市调机构Market.us公布的最新报告数据，2023年全球Chiplet市场产生的市场规模约31亿美元，预计到2024年将达到44亿美元。2024年至2033年，Chiplet行业的复合年均增长率预计将达到42.5%，到2033年估值将达到1070亿美元。按细分市场来看，2023年，CPU Chiplet占据主导地位，占据超过41%的份额。应用方面，2023年，消费电子领域在Chiplet市场中占据主导地位，占据超过26%的份额。

RISC-V+ AI是另一个方向。近年来，RISC-V开源指令集架构快速发展，已成为当前国际科技竞争的焦点，同时也成为一个有效抓手来以开源开放凝聚产业发展共识，打造全球算力产业生态。

贸博士在嵌入式展期间了解到，尽管当前英伟达的GPU及其之上的CUDA软件生态主导着全球Al算力市场，但产业界迫切希望建建立新的软件生态以突破CUDA生态壁垒。通过RISC-V+Al扩展指令，用开源来打破英伟达垄断，已经逐渐成为全球业界新共识。Google、Meta、Microsoft、OpenAI等均在Al芯片中使用RISC-V架构。而当前RISC-V+Al扩展指令尚无统一标准，RISC-V国际基金会正在加快推动以开源开放的方式共同制定Al扩展指令集标淮，并合作研发其上的开源Al系统软件栈。

RISC-V架构开源、精简、可扩展性强，在此轮芯片产业周期中发展最为迅速。公开数据显示，2022年全球共生产100亿颗RISC-V芯片，有一半源于中国。

嵌入式AI方案应用一览：

在本次嵌入式展期间，我们的展台上也展示了多个来自原厂的多个嵌入式AI方案的DEMO应用展示。

ADI：小尺寸有大智慧，基于机器视觉的机械臂应用

该机械臂方案由三个模组构成，第一个是ADI的MAX78000摄像头模组，第二个是中央处理器，第三个是马达控制驱动器。这一应用可以通过MAX78000摄像头模组来识别二维码标签及位置信息，并发送给中央处理器；中央处理器通过计算规划路径，驱动马达控制器来控制机械臂进行跟踪抓取。

ADI MAX78000摄像头模组是由ADI开发的超低功耗边缘AI处理器MAX78000 SoC加一个摄像头所组成。该边缘AI处理器具有以下特征：其一是配备了64个并行处理器可同时进行并行运算，极大提升处理性能；MAX78000是一颗深度学习的推理芯片，它在推理过程中几乎不需要其他微控制器核的介入，操作的流线化程度高。其二，在做卷积神经网络计算的时候，其卷积神经网络加速器的内部集成了RAM存储功能，使得微控制器无需在连续的数学运算中每次都要通过总线来获取相关参数。其三，该模组还对卷积神经网络进行了特别的优化处理，可以在本地以低功耗实时执行AI处理，大幅提高机器视觉、语音和面部识别等应用的工作效率。

NXP：嵌入式AI开发如何加速？一款基于MCX N947的人脸追踪风扇解决方案

恩智浦在贸泽电子展位展示了一款基于MCX N947的人脸追踪风扇解决方案，形象地展示了如何将AI与嵌入式系统开发有机结合起来，营造新的开发生态，打造与众不同的创新用例。来自恩智浦的新一代MCX系列MCU平台，以及与之配套的FRDM开发生态充分展现出该公司在推动嵌入式AI发展的信心和实力。

onsemi：用于双向OBC的6.6KW CLLC隔离DC-DC转换器

CLLC继承了LLC拓扑的特点，采用脉冲频率调节来控制增益，具有同样的软开关特性，因此，能效高且EMI表现好，但也存在增益调整范围窄、难以满足宽广的电池电压变化范围的挑战。

在其功率板中，位于母线侧和电池测的两个有源桥分别由四颗1200 V/40毫欧NVHL040N120SC1和四颗900 V/20毫欧NVHL020N090SC1碳化硅(SiC) MOS构成。相比于硅器件，碳化硅器件可以实现更高的功率密度、更高的开关频率和极高效的设计。

Silicon Labs：引领智能家居风向标的Matter标准

Matter作为物联网设备的新标准，与其他的一些标准不同，Matter不依赖于特定的无线网络技术，由于其基于IP的基础，Matter可以于多种网络标准及物理层配合使用。作为物联网及Matter解决方案的领导供应商之一，Silicon Labs展示了基于EFR32MG2x系列无线多模SoC开发的一套本地化的智能家居系统。在未来的智能家居系统中，都会存在一个或者多个智能网关，不同厂家的智能设备都会接入到智能网关中。由于EFR32MG2x系列无线多模SoC支持低功耗蓝牙、Thread、Zigbee、Matter等协议开发，并且该无线多模SoC独有的Secure Vault物联网安全技术，可以充分保障物联网产品的安全性能。因此在这次展示的demo中可以看到支持不同无线协议的智能设备通过智能网关（基于EFR32MG2x系列无线多模SoC设计）组成一套完整的智能家居系统。

关于作者

Carrie Gan (干晔)

拥有14年媒体从业经验，她擅长深度剖析半导体和电子产业链的发展，专注于AI、自动驾驶等新兴技术和应用的报道，曾供职于福布斯中国和IT时代周刊等知名媒体机构。在2022年，加入贸泽电子，负责技术内容的创作和管理工作，致力于创作有趣、新鲜且具有深度的硬核科技内容。