机器学习入侵边缘处理 机器学习在嵌入式端具体如何实现

作为移动设备之后的第五波计算浪潮，边缘计算受到空前关注。它可以参与到生活的方方面面，包括居家、办公、城市、工厂等，使智能生活更安全、效率更高。

2020 年，Gartner 将边缘计算列为十大战略技术趋势之一。Gartner 指出，边缘计算是一种拓扑结构，信息处理以及内容收集和传递被放置在离信息源更近的位置，其核心逻辑是保持流量本地和分布式以减少延迟。

这将包括物联网的所有技术。边缘赋能将着眼于这些设备的增长方式并为智能空间奠定基础，并使关键应用和服务更接近使用它们的人员和设备。根据预测，到 2023 年，网络边缘的智能设备数量可能是传统 IT 领域的 20 倍以上。

边缘处理——数十亿量级的蓝海市场

边缘计算何以实现这样的增长？恩智浦（NXP）高级副总裁兼边缘处理事业部总经理 Ron Martino 指出了背后的三大驱动因素：第一，它能够降低总体拥有成本，不需要总是进行云接入，从而降低本地成本。第二，它可以保护数字隐私，提高安全性。第三，它能够减少应用延迟，支持实时应用，增强本地体验质量。

随着边缘计算与传统分布式计算架构的深度融合，边缘处理——正在悄然酝酿一场变革。NXP 作为在安全、连接、嵌入式领域耕耘多年的半导体厂商，将如何布局边缘处理的广阔市场？又会进行哪些变革？

Ron Martino 表示，边缘处理市场可以看作一个分布式智能金字塔。底部是包括工业和物联网在内的应用边缘，其中工业边缘包括工厂自动化、基础设施、交通运输、医疗等，物联网边缘包括智能家居、消费及可穿戴领域，这是边缘处理规模最大的、十亿量级的大市场；中部是网络边缘，主要支持 5G 本地网络及数据集成，是一个千万到亿级的市场；最顶部则是数据中心，以云服务为主，大约是百万量级。对边缘处理的布局，NXP 的应用主要包括三大类：网络边缘、工业边缘、物联网边缘，也就是金字塔底部和腰部规模最大的两块。

机器学习入侵边缘处理

几年前，人们普遍认为机器学习、深度学习只能通过由网关、边缘服务器或数据中心执行的边缘训练和推理，在高端硬件上完成。如今，情况已然发生了变化，处理器不必提供每秒数万亿次操作（TOPS），也能执行机器学习，只要使用带有嵌入式机器学习加速器的微控制器，就能在边缘设备上进行机器学习。

内置机器学习加速器的微控制器代表着物联网的下一阶段：在生产数据的源头，例如麦克风、摄像头和监控其他环境条件的传感器中引入智能计算，只需极低的成本和极低的功耗，这些设备就能出色地完成机器学习，仅在绝对必要时才连接到云。

目前，机器学习在边缘计算中的应用已经比较普遍，有 55%的开发人员表示他们当前或未来工作需要机器学习，早期的采纳者已经开始探索更有意义的用例，未来则会被越来越多的开发者接受，也将使得机器学习的开发鸿沟得以消弭。

在 NXP 看来，在嵌入式开发中引入机器学习，当务之急是让更多的开发者用起来。NXP 与 Au-zone 合作开发机器学习工具包，并与 Arm 合作，使 Arm Ethos-U65 microNPU 提供可扩展且高性能的机器学习用例。通过合作，加强 NXP 对 eIQ 机器学习开发环境的支持，帮助用户部署优化机器学习的模式，并且在全球范围内优化机器学习能力，直到 MCU 的层级。

不过，机器学习在嵌入式端具体如何实现？毕竟设备资源受限，对功耗、带宽、存储、模型尺寸等都有完全不同的要求。

NXP 边缘处理事业部副总裁兼 IoT 业务线总经理于修杰表示，很多客户其实都关心有没有可能免费在设计中实现人工智能或机器学习，其实指的就是用 CPU 来运行。NXP 的 eIQ 工具可以部署类似这种模式，例如在家居场景中，由于人是交互对象，因此在推理方面需求不高，在机器学习方面就无需购买加速产品，从而可以降低成本。

此外，微处理器中应用处理器和神经网络加速器的发展速度十分迅猛，更完善的解决方案也层出不穷。总体趋势是将更多以人工智能为中心的功能（例如神经网络处理）与应用处理器一起整合到微处理器中，同时避免功耗或尺寸显著增加。

不过，目前尚处于机器学习发展的早期，会有很多迭代和战略微调。他强调，机器学习和人工智能应用，在选择处理器方面不可能做到一刀切，取决于市场对于应用的需求和对功耗、成本的容忍度，每种技术都能找到自己适用和擅长的领域，因此未来还有很大的继续创新的空间。NXP 将通过可扩展的处理器，支持从简单到复杂的机器学习用例。

EdgeVerse 是 NXP 的边缘处理平台，通过嵌入式处理产品组合，结合安全、软件和整体解决方案来加速边缘计算。具体包括 MCU、跨界处理器、应用处理器以及高端微处理器等多系列的产品组合。其适用范围较为广泛，据 Ron Martino 介绍，可覆盖新基建七大重点领域中的六个，如 AI、工业互联网、城际交通、5G、数据中心、新能源汽车充电。

边缘赋能下，嵌入式计算将如何演进？

混合计算架构成为边缘计算迅速融入物联网多种多样应用中的一个趋势，跨界 MCU——就是 NXP 顺应这一趋势的创新。所谓“跨界”，是指介于常规的 MPU 与 MCU 之间，采用了 MCU 的内核，但基于 MPU 的架构，因此既能实现 MPU 的高性能和丰富功能，同时又兼具传统 MCU 的易用性、低功耗、低成本的特性，从而打破了 MPU 和 MCU 之间的界限。

Ron Martino 指出，机器学习已经出现约 20 年了，一旦发布一款芯片，人们就会尝试在处理引擎上运行各类计算，不论是 DSP、CPU 还是 GPU，随着高集成度的出现，在产品中使用这些计算密集型神经网络也成为可能。在软件层面，整个协议栈到软件和应用层，也必须从机器学习的角度对许多方面进行评估。而更重要的是用户体验，需要找到他们真正想解决的问题。这就使得当前对于机器学习的用例优化非常重要，通过硬件 IP 与软件相结合，真正解决终端应用需求。

“边缘计算有着广泛的可能性，无论是性能还是能力，因此可扩展的解决方案具有更大的价值，它能够充分挖掘边缘计算的能力，这也需要非常广泛的器件组合，在满足软件方面要求的同时又能够兼顾平台的效率”，Ron Martino 强调，“安全也越来越重要，随着接入点的增多，产生了非常多的关键数据，安全性和不断集成的功能已经成为极为重要的因素，也成为嵌入式计算不断演进的关键因素。”

至于嵌入式计算会如何演进？他表示，这些年来嵌入式计算的关键指标从频率、单线程性能一直到具有很多计算模块的异构计算，能耗效率和成本效益在不断提升，机器学习功能也会不断进化。在开发嵌入式计算产品方面不仅要结合各种计算模块实现互联，也需要进行软件的优化赋能和硬件的用例优化。机器学习和传统的 CPU 工作负载有不同，比如内存的接入可能会成为一个潜在的瓶颈，另外还需要优化它的尺寸，将其作为计算部件的一部分，实现与 CPU 功能及其他功能的协同，这是涉及系统级优化的复杂过程，需要熟练的制造流程作用于软件和硬件应用，以便真正优化性能并降低功耗。

编辑：hfy