什么是 NVIDIA AI Enterprise

人工智能正在改变行业，实现流程自动化，并在快速发展的技术格局中为创新开辟新的机会。随着越来越多的企业认识到将人工智能融入运营的价值，他们面临着高效、有效和可靠地实施这些技术的挑战

NVIDIA AI Enterprise 是一个综合软件套件，旨在帮助组织大规模实施企业级 AI 、机器学习（ ML ）和数据分析，并提供安全性、可靠性、 API 稳定性和企业级支持。

什么是 NVIDIA AI Enterprise ？

部署人工智能解决方案可能很复杂，需要专门的硬件和软件，以及开发和维护这些系统的专业知识。 NVIDIA AI Enterprise 通过提供针对企业环境量身定制的工具、库、框架和支持服务的完整生态系统来应对这些挑战

凭借 GPU – 加速计算能力， NVIDIA AI Enterprise 使企业能够更高效、更经济高效地大规模运行人工智能工作负载。 NVIDIA AI Enterprise 建立在 NVIDIA CUDA -X AI 软件栈之上，提供高性能 GPU 加速计算能力

套房包括：

虚拟机管理系统：预配置的虚拟机映像，包括必要的驱动程序和软件，以支持主要云中的 GPU 加速 AI 工作负载。

人工智能框架：可以在 VMI 中运行的软件（如 PyTorch 、 TensorFlow 、 RAPIDS 、支持 TensorRT 和 ONNX 的 NVIDIA Triton 等），作为人工智能开发和部署的基础。

预训练模：可以按原样使用或根据企业相关数据进行微调的模型。

人工智能工作流：预先打包的参考示例，说明如何利用人工智能框架和预先训练的模型来构建人工智能解决方案，以解决常见的业务问题。这些工作流程提供了关于微调预训练模型和人工智能模型创建的指导，以建立在 NVIDIA 框架上。重点介绍了创建应用程序的管道，以及关于如何部署定制应用程序并将其与企业环境中常见的各种组件集成的意见，例如用于编排和管理、存储、安全和网络的软件。可用的人工智能工作流包括：

智能虚拟助理：全天候提供联络中心协助，以降低运营成本。

音频转录：基于 GPU 优化模型的世界级准确转录本。

数字指纹威胁检测：网络安全威胁检测和警报优先级，以更快地识别和采取行动。

下一项预测：个性化产品推荐，提高客户参与度和忠诚度。

路线优化：车辆和机器人路线优化，以减少行程时间和燃油成本。

支持的带有发布分支的软件

使用 NVIDIA AI Enterprise 中可用软件的主要好处之一是，它得到了 NVIDIA 的支持，以安全性和稳定性为指导原则。 NVIDIA AI Enterprise 包括三个发布分支，以满足不同行业和用例的不同需求：

最新发布分支：针对那些需要顶级软件优化的用户，该分支将每月发布一次，确保用户能够获得最新的功能和改进。 CVE 补丁以及错误修复也将包含在前滚版本中。

生产发布处：该分支机构专为优先考虑 API 稳定性的环境设计，将每月收到 CVE 补丁和错误修复，每年推出两个新分支机构，每个分支机构的使用寿命为 9 个月。为了确保无缝过渡和支持，两个连续的生产分支机构之间将有 3 个月的重叠期。生产分支机构将于 2023 年下半年投入使用。

长期释放处：该分支机构专为长期支持至关重要的高度监管行业量身定制，每季度将收到 CVE 补丁和错误修复，并为特定版本提供长达 3 年的支持。与这种长期稳定性互补的是 6 个月的重叠期，以确保版本之间的平稳过渡，从而为这些高度监管的行业提供所需的寿命和一致性。

图 1 。 NVIDIA AI Enterprise 的三个发布分支满足不同行业和用例的不同需求

如何将 NVIDIA AI Enterprise 与 Microsoft Azure 机器学习结合使用

Microsoft Azure Machine Learning是一个用于在云端和本地进行人工智能开发的平台，提供用于训练、实验、部署和监控模型的服务，以及为大型语言模型设计和构建提示流的服务。Azure 机器学习是一个开放平台，支持所有流行的机器学习框架和工具包，包括 NVIDIA AI Enterprise 的框架和工具包。

此次合作通过将 NVIDIA AI 软件与 Azure 机器学习培训和推理平台集成，优化了运行 NVIDIA 人工智能软件的体验。用户不再需要花费时间设置培训环境、安装软件包、编写培训代码、记录培训指标和部署模型。通过这种集成，用户将能够利用 NVIDIA 企业级软件的强大功能，补充 Azure 机器学习的高性能和安全基础设施，构建生产级人工智能工作流

要从今天开始，请执行以下步骤：

1 .登录 Microsoft Azure 并启动 Azure 机器学习工作室。

2 .从 NVIDIA AI 企业预览注册表中查看和访问所有预构建的 NVIDIA 人工智能企业组件、环境和模型（图 2 ）。

图 2 。 Azure 机器学习上的 NVIDIA AI 企业预览注册表

3 .在工作空间中使用这些资产，通过简单的拖放在设计器中创建 ML 管道（图 3 ）

图 3 。使用 NVIDIA AI Enterprise 组件的 Azure 机器学习中的管道

在 Azure 机器学习注册表中查找 NVIDIA AI Enterprise 示例资产。您可以在 NVIDIA_AI_Enterprise_AzureML GitHub 上查看预览资产的代码。

用例：身体姿势估计

使用 NVIDIA AI 企业预览注册表中的各种元素非常容易。此示例展示了使用 NVIDIA DeepStream 进行身体姿势估计的计算机视觉任务。NVIDIA TAO 工具包 提供了身体姿势模型的基础，以及使用新数据对其进行细化的能力。

图 4 显示了一个视频分析管道示例，该示例运行 NVIDIA DeepStream 示例应用程序进行身体姿势估计。它在 GPU 集群上运行，可以轻松调整以利用更新的模型和视频，释放 Azure 机器学习平台的力量。

图 4 。使用 Azure 机器学习进行身体姿势估计的 NVIDIA TAO 工具包和 NVIDIA DeepStream

该示例包括为存储 DeepStream 示例应用程序命令组件的输入而创建的两个基于 URI 的数据资产。数据资产利用了 NVIDIA AI Enterprise Registry 中现成的预训练模型。它们还包括额外的校准和标签信息。

DeepStream 身体姿势命令组件配置为使用 Microsoft Azure blob 存储。该组件会检查输入目录中是否有需要推断的新视频文件。当发现新文件时，组件会拾取该文件并执行身体姿势推断。输出的视频中包含边界框和跟踪线，并存储在输出目录中。

您可以通过基于 TAO 工具包的训练管道对这些样本中的每一个进行改进，该管道可以执行迁移学习，从而改变模型输出以适应特定的用例。您可以在 NGC 上的 TAO Toolkit 计算机视觉样本工作流 中找到它们。

开始在 Azure 机器学习上使用 NVIDIA AI Enterprise

NVIDIA AI Enterprise 和 Azure Machine Learning 共同打造了 GPU 加速计算和全面的基于云的机器学习平台的强大组合，使企业能够更高效地开发和部署 AI 模型。这种协同效应使企业能够利用云资源的灵活性，同时利用 NVIDIA GPU 和软件的性能优势

要在 Azure 机器学习上使用 NVIDIA AI Enterprise，请注册一个技术预览版。这将使您能够访问 Azure 机器学习上 NVIDIA AI 企业预览注册表中的所有预构建组件、环境和模型。