两种深度学习技术部署:在设备上在云端和边缘

如今，有两种可能的深度学习技术部署：直接在设备上在云端和边缘。

由于对处理能力和内存消耗的广泛需求以及AI模型的规模，这些部署中的大多数依赖于云。尽管云部署使AI可以从高性能计算系统的功能中受益，但挑战依然存在。需要将数据从设备来回发送到云以进行处理会引起隐私问题，并且由于延迟，带宽和连接性而存在限制。

这促使业界专注于边缘AI的开发，这是我在上一篇文章中谈到的主题。这些工作主要围绕引入用于训练AI模型的新方法进行，这些方法可以减少占用空间，因此可以将这些模型直接部署在边缘设备上。

边缘AI将通过使智能设备实时做出真正自主的决策来解决深度云的不足，从而促进深度学习。具体而言，这将消除了将所有数据连续发送到云或从云连续发送的需要，从而改善了隐私，带宽和延迟限制。此外，新兴的边缘AI部署方法极大地提高了速度，功耗和内存消耗，从而可以降低成本并限制对环境的影响。

一个人的利益不能被另一个人完全取代；因此，最具影响力的现实世界AI部署将是采用混合方法的部署：在云中和边缘。但是混合方法是什么样的呢？

混合部署的免费工作流可获得更好的结果

第一步是通过确定必须实时在边缘进行决策的用例，并通过可在云中进行处理以进行长期分析和改进的方案，来淘汰可最大化效率和可扩展性的工作流程。

如果您在智能边缘设备上部署深度学习，那么在需要实时决策的情况下，例如自动驾驶汽车，农业无人机和系统，摄像机，移动设备等。同时，系统可以将数据上传到云中以进行存储以及进一步处理和分析，而这些处理和分析可以由功能更强大的引擎执行。这将确保该系统可以实现大功率计算的优势，并允许将云中的数据与其他系统中的数据进行组合。

利用这些组合数据，可以对模型进行重新训练以进行持续改进。一旦在云中进行了再培训，就可以在边缘重新部署新模型。

与采用单一方法相比，将云AI和边缘部署的优势整合在一起更强大。具体来说，云AI的处理能力和高性能可以补充边缘AI的效率，速度和自主性。

混合方法在行动

人工智能在自动驾驶汽车中的应用是一个说明补充方法好处的特定用例。

在此用例中，至关重要的是，AI模型必须在边缘，直接在设备和车辆上运行，以确保汽车可以安全行驶。如果汽车在将数据发送到云端并进行处理之前无法采取行动，那么它将无法做出反应并迅速做出决策以确保安全。另外，无法保证车辆将保持连续的互联网连接。

但是，汽车制造商还可以从捕获数据中受益，而不仅仅是实时决策所必需的。将收集的数据发送到云进行处理是持续改进和重新训练模型的关键。这不仅可以彻底处理设备的数据，而且还可以将深度学习的见解与从其他边缘设备收集的数据相结合，以进行更大的输入和理解。基于此见解，可以不断改进算法以发展自动驾驶汽车系统。

下一步是什么？边缘AI和云AI的演变

随着越来越多的组织在云端或边缘利用AI的力量，我们将看到更多能够提供现实价值的深度学习应用程序。

5G的兴起将继续推动深度学习的发展。随着5G变得越来越普遍，它将增强超级计算的可访问性。具体来说，5G将使从边缘到云的数据共享变得更加无缝和高效，从而促进更高效的数据处理。

但是，即使使用5G，仍然需要在边缘进行实时决策。云仍将无法即时满足边缘应用程序对数据处理的需求。因此，在计划部署模型时，边缘AI必须继续成为AI公司关注的焦点。对于云和边缘部署采用互补方法的企业，无论是在其模型的短期处理能力还是在有效存储，处理和改进模型的长期能力上，都将获得最大的成功。
责任编辑：YYX