探索嵌入式机器学习

1943年，神经生理学家沃伦·麦卡洛克（Warren McCulloch）和数学家沃尔特·皮茨（Walter Pitts）写了一篇关于神经元及其工作原理的论文。使用电路创建了一个模型，神经网络应运而生。七十年后，这些开端已经发展成为全球一些顶级技术公司和技术社区的许多大型项目 - GoogleBrain，AlexNet，OpenAI，Amazon Machine Learning Platform是一些与AI和机器学习相关的最知名举措的例子。

进入物联网。以及它嵌入的强调。货币化依赖于（近）实时分析传感器数据并对该信息采取行动。这些领先的计划假设大量数据可以无缝地输入云环境，在那里可以执行分析、分发方向和采取行动，所有这些都在每个应用程序所需的时间期限内完成。

Qeexo（发音为“Keek-so”）首席技术官Chris Harrison认为机器学习属于边缘，Qeexo正在开发解决方案来实现这一目标。

移动传感器和人工智能

与许多范式转变计划一样，这项特殊的举措始于一个挑战 - 如何为移动设备完成更复杂的触摸交互？这导致了将触摸屏数据与加速度计融合以测量屏幕点击的探索。结果是能够区分手指、指关节、指甲和手写笔尖端和橡皮擦，这拓宽了用户和设备之间的交互。

“如果我们要采用复杂的多点触控，我们需要做一些聪明的事情来解决模棱两可的用户输入，”Chris说。“做到这一点的方法是机器学习。我们的 FingerSense 产品背后的机器学习软件可以区分手指、指关节和指甲触摸。这些新的输入方法允许访问上下文菜单。这带来了右键单击功能，而不是触摸并按住。

移动设备机器学习挑战

在移动设备上进行机器学习的功耗和延迟预算很小。花了将近三年的时间才满足要求。

“作为移动应用程序开发人员，您在移动设备上有两种选择 - 您可以在更高的功率下快速完成工作，或者在较低的功率下更慢地完成工作。这导致了我们称之为混合融合的关键功能。机器学习软件需要非常聪明地访问和处理传感器数据，以适应功率和延迟预算，“Chris说。

FingerSense非常擅长进行边缘和设备优化的机器学习 - 这是传统的机器学习云环境不必考虑的。

“大多数公司都在从巨大的服务器和昂贵的CPU的角度考虑深度学习。我们走了相反的道路。物联网的目标是一种“微小”的机器学习，可以在有限的资源下有效地运行，并保持应用程序的近乎实时的截止日期。通过在移动行业崭露头角，它为我们提供了将机器学习应用于边缘物联网和嵌入式设备的技能和技术。

最令人兴奋的前沿领域之一是将Chris所谓的“机器学习”带到物联网和小型设备中。例如，您的灯泡不必能够对每周天气进行网络搜索，但添加一点机器学习，使其能够感知运动和温度以做出开/关决策具有现实价值。

嵌入式机器学习架构

机器学习环境以 C/C++ 和 ARM 汇编编写，以优化效率和操作系统可移植性。大多数操作都在内核驱动程序组件中。该软件必须处理电池供电设备的电源管理。使用设备中的主 CPU 进行嵌入式机器学习可能会非常耗电。因此，低功耗微控制器不是将加速度计和运动传感器连接到主CPU，而是位于传感器和主CPU之间，充当“传感器集线器”。传感器集线器更节能，专门用于传感器通信的繁重工作。传感器集线器还可以执行一点逻辑，以允许主CPU关闭更长的时间。这种分层设计优化了功耗和延迟预算，使嵌入式机器学习环境在移动设备和物联网传感器上成为可能。

“加速度计数据是恒定的数据流，没有应用逻辑，因此需要不断采样，”Chris说。“这是机器学习逻辑开始（也许结束）的地方。可以在主 CPU 上完成其他机器学习逻辑。您可以决定传感器集线器可以过滤掉或预先选择数据，因此进入主 CPU 的数据量更少。

一个例子是发生流量突发时。如果传感器信息处于空闲状态，则会产生突发信息，并且该突发信息会移动到主存储器或占用总线，则情况可能会很糟糕。或者，如果协处理器向主处理器提供信息的矢量表示，则可以简化效率，同时仍然能够解释信息。

远离云

必须小心，不要在通往成功的物联网系统的道路上假设完美和高带宽的网络连接和无限的机器学习资源。Chris警告说，云环境不要被用作拐杖。

“如果你花时间正确分析、收集需求和设计物联网系统，你绝对可以在边缘执行机器学习。这最大限度地减少了网络要求，并提供了高水平的近实时交互。

当然，安全考虑也是最重要的。只要有可能，你都希望减少攻击面。一些应用程序可能能够仅在边缘进行机器学习和操作，从而完全消除互联网连接。

“在CMU ［卡内基梅隆大学］，我们偶尔会接到执法部门的电话，告诉我们我们的相机被用来发送电子邮件，”克里斯说。“这些攻击发生在运行网络的安全专家身上！如果可能，请不要将系统连接到互联网。如果我们能够摆脱这种趋势［利用云处理一切］，我们应该能够实现一个更安全、更私密、更高效的系统。云连接是有时间和地点的，但工程师需要立即停止跳转到该资源。

鉴于这些处理器的改进速度，这似乎是可以实现的。还有一个成本效益。如今，大多数智能设备的价格都超出了大众市场。如果我们能够将智能投入到这些设备中，降低成本并提供真正的价值，那么采用就会加速。

审核编辑：郭婷