实施边缘人工智能如何评估正确的选择

随着对人工智能的需求变得越来越普遍，技术需求变得越来越复杂，希望在产品中采用边缘人工智能的公司通常会发现这是一个艰巨的挑战。但是是什么让它如此困难，有什么解决方案可以解决这个问题？

也许公司在实施边缘人工智能时面临的最大问题是大多数公司没有内部资源来开发这些复杂的快速变化的技术。缺乏训练有素的人员和对设计流程的不熟悉通常会导致时间延迟和培训团队成员的额外费用。另外，选择太多，工程师不可能每个选项都去探索。而且由于每个应用程序都不同，因此可能不适合根据过去的实现来复制解决方案。但是，通过提出几个关键问题并找到合适的合作伙伴将您的项目从构思转变为芯片，任何企业都可以制定路线图，在其设备中成功部署边缘 AI。

定义用例和可行性

在探索实现选项之前定义用例很重要。任何企业都应该问的第一个问题是：客户会发现什么是真正有用的？在确定客户想要的功能后，您的团队需要设定开发和生产成本目标以及可接受的上市时间。

现在是具有挑战性的部分——做出与技术相关的决策。是否有可能在您正在处理的成本、时间、功率和空间权衡内实现该功能？在此阶段，与经验丰富的合作伙伴/顾问合作或借鉴内部经验至关重要。你不会有完美的数据来做你的决定，所以实际经验对于做出这些判断是必不可少的。

技术选择

团队可以做出多种选择来在产品中实现客户所需的功能。根据您的可用资源和开发时间，团队可能会考虑以下一些选择：

• 仅在现有嵌入式处理器上的软件——这可能需要非常仔细地编码模型才能实现所需的性能。功能可能会受到限制，但如果可行，它通常是成本最低的解决方案。因为这是一个纯软件解决方案，升级或错误修复更容易解决。
• 升级/更换现有的处理器——如果你能让它工作并保留现有的代码库，这可能是一个很好的解决方案，并且像上面的解决方案一样，它是纯软件的，可以很容易地修复或升级。但是，这通常会使项目开始走上一条需要进行大量功率和性能评估的艰难道路。公司最好添加神经网络 (NN) 或类似的加速器。
• 添加一个固定的神经网络加速器——如果与应用程序的需求有很好的匹配，这是一个最佳选择，因为评估和设计可能不会太困难。它可以以非常合理的成本很好地提供出色的功率/性能折衷。
• FPGA – 该解决方案灵活且可升级，但最终产品通常成本高且功率大。这很少是“边缘”产品的好选择。
• 专用 SoC——这通常是明确定义用例的大容量、低成本和低功耗产品的最佳选择。

如何评估正确的选择

如果没有边缘 AI 芯片领域训练有素的专业人员的专业知识，可能很难评估正确的选择。每个选项的评估通常需要很长时间并且需要广泛的知识。例如，评估固定加速器与 FPGA 实现可能需要具有不同技能的工程师。由于有如此多的供应商和解决方案提出相互矛盾的主张，对于大多数企业来说，做出基本决策可能会让人不知所措。

可以采取的最重要的步骤之一是找到可以帮助评估技术权衡的合适合作伙伴，并将公司从最初的研究和评估阶段带到解决方案的设计和实施。此外，不要沉迷于寻找具有“最佳”功率/性能的解决方案。如果您能找到可行的解决方案并拥有足够的软件和技术支持，那么这可能是您的最佳选择。不要被抓到追逐规格。

构建解决方案

一旦选择了功能和技术，下一步就是实施。通常重点是神经网络模型的实现，但企业还必须处理逻辑（软件/硬件）的实现，以处理从传感器到最终输出的管道，每一步都需要独特的算法。

可能出现的问题包括：

• 在将数据传递到 NN 加速器之前，我需要什么样的信号调理/过滤？
• 我应该使用哪种 NN 模型？我的技术选择是否有现有模型？哪个模型的哪个版本最适合我的应用程序？
• 如何训练我的模型？我从哪里获得我的数据以及这些数据中存在哪些偏差？我需要多大的数据量？
• 训练模型的处理能力的成本和可用性是多少？我们是在云端还是在本地服务器上训练？
• 什么水平的准确度是足够的？假阳性还是假阴性更好？
• 需要哪些后期处理，我可以处理该工作量吗？

最后的忠告

由于有如此多的供应商提出相互矛盾的说法，因此对于希望实施边缘 AI 的企业来说，重要的是不要专注于寻找“最佳 TOPS”或“最快”的解决方案，因为这些都是难以捉摸的目标。回答许多有关功能、技术选择和实施的问题的最佳方式是与“已经在那里，做到了”的个人或组织合作。具有快速评估潜在用例、技术解决方案和供应商产品的经验的人，可帮助您尽可能快速准确地缩小选择范围。专注于拥有最完整解决方案的供应商，既有要实现的引擎，也有模型、算法，甚至现有数据，以帮助您处理独特的用例并创建可靠的概念证明。