IIoT中应用DL考虑因素 - 机器视觉的现状和未来发展趋势

2 IIoT中应用DL需要考虑的因素

深度学习最近在IIoT应用中取得了成功，主要归功于更强大的硬件计算能力、庞大的标记训练数据库、学习算法和网络初始化的突破性进展以及开源软件框架的可用性。

以下是使用此技术设计系统的一些主要考虑因素。

拓扑结构-深度学习是一个不断发展的领域，目前有许多网络拓扑已经得到应用［1］。 接下来将讨论其中一些有望用于控制和监测IIoT应用的网络。

· 完全连接的深度神经网络通过许多隐藏层完全连接人工神经网络（因此称为深度神经）。 这些网络都是出色的函数逼近器，比如，可以用于电力电子控制的应用。 如果要使用深层网络来构建控制器，可以使用要控制的系统的仿真模型来生成训练数据。 借此，您可以探索使用传统方法通常难以控制的状态（边界/转角条件）。

· 卷积神经网络设计为可利用输入图像或语音信号等输入信号的二维结构。 卷积网络由一个或多个卷积层（滤波层）组成，随后是完全连接的多层神经网络。 这些网络可成功检测图像中的缺陷以及识别对象， 现已应用到先进驾驶员辅助系统中的场景理解。

· 递归神经网络（RNN）采用的是基于顺序（或历史）信息进行预测的算法。 这些网络适用于时间序列分析。 传统的神经网络假定所有的输入（和输出）在时间或到达顺序上是相互独立的。 RNN记录的是状态信息，能够存储关于过去的信息，并使用当前已计算的信息进行下一个预测。 在IIoT应用中，RNN有助于学习历史行为，并根据历史行为来预测未来事件，如资产的剩余使用寿命（RUL）。 长短期记忆（LSTM）网络非常适用于这类应用。［2］

· 深度强化学习（DRL）适用于设计在复杂动态环境中运行的自适应控制系统。 比如控制仓库操作机器人，这些机器人必须动态适应新任务。 以强化学习为基础的控制器通过执行任务后所获得的奖励来一步步完成目标。 例如，控制器接收显示机器人手臂当前位置的摄像机图像，并通过图像中的信息学习如何将手臂移近目标。［3］ 基于DL的控制器可以使用机器人模拟器或通过观察操作中的机器人来进行训练。

图6 用于机器人控制应用的深度强化学习

训练 - 深度神经网络需要大量的训练数据，最好包括网络要学习的所有不同状态或条件的数据。 对于大多数应用来说，可用的数据主要来自系统的正常工作状态，仅对其他状态的数据进行少量的采样。 数据增强技术可改善数据中的这一不平衡性，您可以从已有的少量样本为基础，通过转换数据创建更多合成版本。 您也可以使用系统的仿真模型来创建训练数据。 另一个挑战是要采集训练这些网络所需的庞大数据非常困难。 迁移学习可以解决这个问题。 借助迁移学习，您可以以一个预先训练的神经网络为起点（大多数DL软件框架提供了经过完全训练的模型，而且可供下载），并使用应用程序中的数据对其进行微调。

硬件—训练深度网络对处理性能的要求非常高。 GPU已经成为训练深度网络的主要选择。 由于高计算性能、大内存、高内存带宽和多种编程工具选择，GPU成为最受欢迎的选择，而且几乎成为深度网络训练的必需技术。 此外，FPGA是部署经过训练的网络的理想终端选择。 FPGA提供了更低的延迟、更高的功效以及更高的确定性，尤其适用于在嵌入式设备上部署这些网络，适用于与I/O进行紧密循环操作的控制系统。

软件 - 深度学习之所以能够快速得到应用并获得成功的一个原因是有成熟的软件框架。 一些常见的框架包括TensorFlow、Caffe、Keras和CNTK。［4］［5］［6］［7］ 这些框架支持Windows和Linux等不同的操作系统，以及Python和C ++等语言。 这些框架中的大多数还可支持实现最新的DL网络或提供相关的示例， 而且还支持在GPU上学习。

3结论

深度学习是人工智能一个激动人心的新方向，有望能够解决工业控制设计应用的下一代问题。 深度学习的一个快速入门方法是下载上面提到的开源框架，并使用教程示例动手进行操作实践。 从与您应用程序类似的示例开始，并使用迁移学习快速运行。