混合人工智能或改善边缘计算

作者 | Ari Kamlani

混合人工智能（AI）是数据驱动机器智能方法的配套技术，可以促进边缘计算的发展。

诸多行业都在开发和部署人工智能（AI）。它使许多公司能够利用新的机会，创造新的商业模式并获得竞争优势。在工业、能源、国防、医疗保健和金融行业，AI正在成为企业在各自领域内有效竞争能力的核心差异化价值驱动因素。

以物联网（IoT）为例。相关预测显示，到2025年物联网连接的设备将超过750亿台，比2019年增长近三倍。这一数字还在继续呈现指数级的增长，将所有这些设备与智能功能连接起来，是实现其全部物联网潜力的最大挑战之一。

随着设备和系统的技术能力的不断成熟，在物理世界中，几乎所有物体都有连接性和计算能力，不管这些能力是生俱来的还是经改造后获得的。用户的期望值也在不断增长。用户对体验和交互的要求更高，希望获得类似于智能手机和笔记本电脑的用户友好体验。机器学习用户体验MLUX（ML+UX）需要精心设计，以最小的代价获得积极、有影响力、情境和整体的用户体验，以进一步扩大和提升对该技术的采用。

01

边缘计算系统正在不断发展

边缘系统的设计，具有不同且通常有限的计算机处理、存储和内存、网络连接和运行等诸多限制。边缘范式转移到数据被感知、生成和执行的地方进行本地处理；尽管在某些情况下，它有点类似于云功能，可以通过边缘网关进一步扩展，以提供低延迟和高带宽利用率。

在整个范围中，硬件系列可以涵盖从资源受限的超低功耗裸机设备、RTOS微控制器（例如，ARM Cortex-M）到SoC应用微处理器（例如，ARM Cortex-A）配置文件功能。原始设计制造商/原始设备制造商（ODM/OEM）许可的应用程序配置文件目标，通常出现在智能手机和平板电脑中，或连接到外部的微控制器、传感器和驱动器或基带处理器的应用处理器中。

在此范围内，先进的专用AI加速器ASIC设备已被设计为处理高性能的AI操作指令和支持最先进的模型（SOTA）。尽管硅的应用落后于AI研究，但它带来的好处是性能提高，这间接地与最终用户的体验联系在一起。

在生命周期开始之前，许多SoTA AI模型都需要进一步优化和压缩，而不会降低目标性能。随着该领域的发展，将模型部署到嵌入式设备已转向嵌入式系统范式，即在目标主机上交叉编译代码。

用户可以通过中间格式（MLIR）和Runtime执行环境来编译和优化处理器目标和设备执行，而不是部署较小的参数化抽象模型，以换取目标性能。这也与提供更低的延迟和改善的用户体验有关。

在运营过程中，AI边缘系统需要具有一定程度的独立性，尽管具有局限性，但仍能做出高性能的决策，直到它们能够利用更强大的资源以及来自所连接的云基础设施的大量数据和知识。对于互连的设备，这种独立状态被称为紧急模式。

02

使用混合AI改善边缘计算

使用混合AI（Hybrid AI）是推进边缘AI的潜在途径。混合AI是一种将机器学习与符号AI（Symbolic AI）相结合的方法，前者使用统计模型来分析数据，后者基于语义并提供对意义的见解。通过利用每种技术的优势，可以实现比单独使用任何一种技术更强大的结果。

混合AI作为数据驱动机器智能方法的配套技术，补充了认知符号AI能力，克服了推理、顺序规划、可操作反馈以及类似人类的可理解阐述和解释方面的限制。核心关注点是与用户的协作互动，充当情境决策支持顾问和诊断系统，尤其是在与高风险、不确定性和未知相关的情况下更是如此。例如，NASA JPL为火星探测器着陆开发了混合AI，增加了推理智能功能，以改善在不熟悉和传统技术难以实现的困难地形下的导航。

利用混合AI，可以通过编码的人类专家知识和约束、行业指南和最佳实践以及传统的支持历史库和流式事件信息来丰富系统。这些认知引擎和算法对假设的路径和场景进行建模，以提出行动方案并制定智能的近实时决策，即使在那些在操作、获取和访问质量数据方面被认为不太理想的边缘环境下也是能完成任务。

考虑连接受限或不稳定的边缘设备的使用工况，这些设备在恶劣或远程环境中运行，具有长尾数据分布，数据采集和存储受到限制。或者，当设备故障，传感器融合和机动高风险错误条件路径的时间周期内，发生数据冲突时所导致的不理想路径。这些案例都是传统大数据和微调方法不太适合的。混合AI可以直接将这些条件，作为推荐行动计划和用户反馈回路的一部分，或利用知识和约束的基础模型进行校正，间接地促成这些条件。

在IoT和其它在边缘运行的系统中使用混合AI，为连接、用户体验和运营决策带来了新的潜力。AI未来的愿景，包括能在网络边缘和更大的生态系统和价值链之外，实现传统机器学习系统无法完成的任务的认知系统：智能和流畅地与人类专家互动，提供清晰可行的解释，并增强用户对决策的信任和信心。

编辑：黄飞