Toolkit 支持汽车级 AI

NXP Semiconductors 推出了名为 eIQ Auto 的新深度学习工具包。恩智浦正在寻求通过使其工具“汽车品质”来使自己在竞争中脱颖而出。NXP 的目标是让 AV 设计人员更轻松地在车辆中实施深度学习。

自动驾驶汽车 (AV) 的发展不一定需要人工智能或深度学习。简而言之，并非所有 AV 都需要由 AI 驱动。然而，深度学习的快速进步和更高的准确性正吸引着寻求改进其高度自动化车辆的开发人员。

然而，验证 AI 驱动的 AV 安全性的困难仍然存在。安全研究人员担心深度学习的“黑箱”性质，而这只是几个棘手问题之一。AV 设计师是否可以验证和验证持续学习的 AI 系统，或者 AI 功能一旦部署在车辆内的专用硬件中，其行为是否与在更大、更强大的计算机系统上开发和训练时的行为相同仍然不确定.

尽管存在这些担忧，但 AV 和安全社区都认识到 AI 不是他们可以避免讨论的话题。

随着上周 UL 4600 规范草案的发布，Edge Case Research 的首席技术官 Phil Koopman 告诉我们，“我们将正面追求完全自治。”

UL 4600 是一种评估目前在 Underwriters' Laboratories 开发的自动驾驶产品的安全标准，它既不假设也不强制要求在 AV 内部部署深度学习。但该标准涵盖了对生命关键应用程序中使用的任何机器学习和其他自主功能的验证。

用于深度学习的汽车级软件工具包

在此背景下，NXP Semiconductors 推出了其 eIQ Auto 深度学习工具包。

“迄今为止开发的大多数深度学习框架和神经网络都用于视觉、语音和自然语言等消费类应用，”恩智浦半导体汽车人工智能战略和合作伙伴关系总监 Ali Osman Ors 说。它们的开发不一定考虑到对生命至关重要的应用程序。

（来源：NXP）点击这里查看大图

领先的汽车芯片供应商 NXP 正在进一步使其软件工具包符合汽车软件性能改进和能力确定 (A-SPICE) 标准。A-SPICE 是德国汽车制造商为改进软件开发流程而制定的一套指南。

NXP 解释说，其 eIQ Auto 工具集——专为 NXP 的 S32V234 处理器设计——将帮助 AV 开发人员“优化深度学习算法的嵌入式硬件开发并加快上市时间。”

当被问及是否有类似的汽车级工具包可用于深度学习时，Ors 说：“一些汽车 OEM 可能已经在内部设计了自己的工具。但据我所知，我还没有看到其他汽车芯片供应商提供像我们这样用于深度学习的汽车级软件工具包。”

剪枝、量化和压缩

数据准备和训练（学习）的过程以及在嵌入式系统上的 AI 部署（推理）过程都很好理解。

如今，据说 AV 开发人员在测试车辆在公共道路上行驶时以每秒 4GB 的速度收集数据。清理和注释如此大量的数据并为训练数据做好准备可能会非常昂贵。在某些情况下，仅数据标记处理就可以在财务上削弱算法开发人员和 AV 初创公司。

但对 AV 设计人员同样具有挑战性的是，尽管很少公开讨论，但优化训练好的 AI 模型并将其转换为部署（在推理引擎上）所涉及的艰巨任务。Ors 解释说，NXP 的工具加速了“量化、修剪和压缩”神经网络的过程。

通过剪枝，Ors 意味着通过去除不重要的权重来移除神经网络架构中存在的冗余连接。当然，一个新的“剪枝”模型会失去准确性。因此，模型必须在修剪后进行微调以恢复其准确性。

接下来，量化创建了一个“高效的计算过程”，Ors 说。它涉及通过对权重进行聚类或四舍五入来捆绑权重，以便可以使用更少的内存来表示相同数量的连接。另一种常见的技术是通过四舍五入将浮点权重转换为定点表示。与剪枝一样，模型必须在量化后进行微调。

AV 设计师通过运行测试数据（深度学习系统以前从未见过）来评估转换模型的准确性，并进一步微调模型。

（来源：NXP）点击这里查看大图

分区工作负载

恩智浦表示，除此之外，eIQ Auto“对工作负载进行分区并为神经网络的每个部分选择最佳计算引擎。” Ors 解释说，它加快了手工制作推理引擎的过程，因为该工具可以帮助 AV 设计人员确定哪些任务在 CPU、DSP 或 GPU 中运行得最好。他说 eIQ Auto 不能用于非 NXP 设备，因为该工具必须非常熟悉处理器内部发生的事情。

审核编辑 黄昊宇