AI时代，英特尔如何助力物联网变革？

当前，全球计算机领域皆因“AI浪潮·大侵袭”而引起了新一轮业务运营的深刻改革，这彻底改变了人类的生活。在AI浪潮奔腾而来的情况下，英特尔®还为之提供了一款硬件解决方案—英特尔®OpenVINO工具套件，它能以前所未有的性能和灵活性处理极具挑战的智能视觉与深度学习模型。

英特尔®OpenVINO工具套件是一款经过精心设计的工具，不仅适用于开发可模拟人类视觉的应用和解决方案，它还可以通过英特尔®FPGA深度学习加速套件支持FPGA。旨在通过优化广泛使用的Caffe和TensorFlow框架来简化采用英特尔®FPGA的推理工作负载，并用于包括图像分类、机器视觉、自动驾驶、军事以及医疗诊断等应用。

借助开放视觉推理和神经网络优化(OpenVINO™)工具套件，我们可以开发出能够在英特尔®架构上模拟人类视觉的应用和解决方案。该工具套件基于卷积神经网络(CNN)，可在英特尔®硬件中扩展工作负载，实现卓越性能。

英特尔®OpenVINO

首先，英特尔®OpenVINO是一个完整的工具套件，用于在英特尔®平台上开发和部署视觉导向型解决方案。它提供了一个涵盖CPU、GPU和FPGA的环境。包含用于CPU或CPU-GPU芯片上运行视觉编程的OpenCV，同时使用英特尔®深度学习部署工具包来访问用于深度神经网络（DNN）编程的FPGA功能。

“英特尔®OpenVINO包含用于高性能推理的优化深度学习工具，用于计算机视觉应用和机器感知加速的常用OpenCV库以及英特尔提供的OpenVX*API。另外，它还包含深度学习推理引擎，该引擎具有将推理与应用逻辑相集成的统一（即独立于OpenVX）API，以及帮助部署CNN的深度学习模型优化器工具。”

英特尔®OpenVINO提供由主机处理的分割、覆盖和视觉等多种功能，通过英特尔®深度学习部署工具包进行编程，以便执行图像分类，在工作流程中使用具有低延迟、低功耗、确定性和灵活功能的FPGA。这一组合不仅功能强大而且易于管理，因为采用了英特尔®OpenVINO和面向包含FPGA的英特尔®至强®CPU的加速堆栈的英特尔®深度学习部署工具套件组件。

使用OpenVINO工具包展示深度学习推理的英特尔FPGA

英特尔®深度学习部署工具套件

英特尔®深度学习部署工具套件包含在OpenVINO工具套件中，它可提供跨平台工具支持，能够提升深度学习推理。包括：

推理引擎具有CPU、GPU、VPU和FPGA插件，提供多平台支持。

模型优化器可将Caffe和TensorFlow等深度学习框架转化为中间表示(IR)。

英特尔®FPGA深度学习加速套件预装了OpenVINO中的英特尔DL部署工具套件，包括一系列软件图形编译器、库和运行时，能够满足机器学习研究人员和开发人员的需求，他们需要通过英特尔®FPGA进行性能、功耗和成本优化的实时人工智能推理。

基于数据中心应用构建，它可用于实时或离线视频/图像识别和分类。可加速面向FPGA硬件优化的计算密集型卷积神经网络（CNN）基元，并支持行业标准机器学习框架，包括Caffe和TensorFlow，从而支持开发和部署AI应用。

英特尔®深度学习部署工具套件是经过完全验证的AI框架，支持开发人员通过以软件为中心的流程，轻松将FPGA部署至实时AI应用。AI工作框架包含可实时部署的深度学习加速引擎，该引擎针对实时性能和低延迟优化，支持采用英特尔®Arria10GXFPGA的英特尔PAC。英特尔®FPGA深度学习加速套件支持目前最常用的深度学习架构，包括面向多种精度的AlexNet、GoogleNet、SqueezeNet、VGG16和ResNet。

设计挑战

过去，FPGA设计要求经验丰富的硬件设计人员执行RTL设计流程，因此大多数软件和应用开发人员很难接触FPGA设计。如今所面临的挑战是如何通过高级设计环境（比如OpenCL）将异构编程应用于特定于应用的框架，包括Caffe和TensorFlow。

而采用FPGA的英特尔至强CPU加速堆栈，特别是英特尔FPGA深度学习加速套件和英特尔OpenVINO工具套件，可帮助从容克服这一挑战。