使用 NVIDIA IGX Orin 开发套件加速边缘 AI 之旅

想象一下，你即将开启一生难忘的山地自行车冒险之旅。计划已经完成，相应的训练也基本到位，当下所需要的就是一辆完美的自行车。你需要好的减震器、轮胎、刹车、车架、车把和座椅。假设所有这些部件都集中在一个包裹中，并且预先组装在了一起，从而为你节省时间和花费。

NVIDIA IGX Orin为边缘 AI 应用程序开发人员提供了类似的工具包：一个优化的一体式平台。NVIDIA IGX Orin 是第一个将工业级硬件与企业级软件相结合，并支持边缘 AI 管理的平台。

图 1 硬件和企业级软件工作流程，以确保安全的边缘AI管理

NVIDIA IGX Orin 让公司能够转向软件定义的模型，从而提高开发速度、降低成本，而不是浪费宝贵的资源拼凑平台来运行或开发 AI 应用程序。

NVIDIA IGX Orin 专为工业和医疗环境打造，为开发人员提供边缘 AI 所需的性能、耐用性、安全性和安全功能。

NVIDIA IGX Orin 开发套件

一体式NVIDIA IGX Orin 开发者套件配有机箱和电源，可帮助启动或加速边缘 AI 应用程序开发，主要功能如下所述。

硬件

• IGX Orin 模块：工业级；已认证就绪

• CPU ：12 核 Arm

• GPU ：NVIDIA Ampere 1024 CUDA ，64 Tensor

• 硬件安全扩展

• 功能安全岛

• NVIDIA ConnectX-7 智能网络接口卡（SmartNIC）提供 200Gb/s 的网络速度，非常适合接收高帧率视频

• 用于固件更新的 NVIDIA 基板管理控制器（BMC）

• 安全 MCU

• 与功能安全岛（FSI）和安全扩展包软件携手合作

• 监控 IGX 和机箱环境的电压、温度、风扇和速度

• 机箱，包括冷却风扇

• 电源装置

• 附件（用于连接的各种电缆）

软件

• NVIDIA AI SDK

• NVIDIA Metropolis

• NVIDIA Holoscan

• 安全扩展包

• 商业操作系统集成

• Canonical，红帽

更多有关信息，请参阅NVIDIA IGX productspecifications(https://www.nvidia.com/en-us/edge-computing/products/igx/)。

关键用例

许多领先的工业和医疗公司目前正在使用 NVIDIA IGX Orin 将 AI 应用于其运营和解决方案中。继续阅读，了解更多关于在 NVIDIA IGX 平台上开发的一些关键用例信息。

工业安全：预防工作场所的险情

随着机器与人类互动的增加，特别是在仓库和制造环境中，functional safety变得至关重要。更多详细信息，请参见全新NVIDIA IGX 平台帮助创建安全、自动化的未来工厂(https://blogs.nvidia.com/blog/2022/09/20/igx-industrial-edge-ai/)。

Reactive safety是自主机器的标准规定，当出现安全威胁或事件时，会减慢或关闭机器。这会减轻对相关人员造成的伤害，但停机时间的成本也非常昂贵。

除了支持 reactive safety功能外，NVIDIA IGX Orin 还使公司能够构建proactive safety，以防止危险事件的发生。Proactive safety的运作类似早期检测和响应系统，通过控制面板来监督自主机器集群。

Proactive safety包括在事件发生前识别安全隐患，采取适当措施，保护工人，最小化停机时间和相关成本。以下提供了一些 proactive safety 的具体示例。

• PPE detection：可以训练 AI 模型，以帮助监测和检测个人防护装备（PPE）的适当使用。

• Barrier breaches：启用 AI 的摄像头和传感器可以识别及分类物体和人，以确定是否存在安全或安保威胁，并提示采取适当的安全措施。

• Collision detection：AI 可以分析实时视频和图像处理，以确定机器和人类的运动是否可能导致碰撞，然后采取安全措施避免事故发生。

NVIDIA IGX Orin 和NVIDIA MetropolisSDK 的结合为开发人员提供了强大平台，加速功能安全 AI 应用程序开发，并管理自主机器集群。

工业自动化：更快、更准确、更高效的供应链

低效的供应链加上劳动力短缺，对公司满足需求和保持客户满意度的能力产生了深远的负面影响。对更高效的供应链的迫切需求，带来了 AI 解决方案的快速发展。

例如，履行中心在公司的供应链中发挥着关键作用。使用 NVIDIA IGX Orin 、 NVIDIA Metropolis SDK 和NVIDIA Omniverse可以将低效的供应链转化为面向未来、适应性强的运营。可以开发 AI 应用程序以产出高质量的感知数据，为实时决策提供信息，从而提高运营效率。请参阅下面的几个例子。

• Industrial inspection：AI 模型被训练来检测和分类物体，并识别去除缺陷产品。

• Predictive maintenance：通过对周围环境、故障检测和机器/机器人性能的数据分析，AI 可以预测设备何时可能需要主动维护，以避免停机。

• Field inspection：图像识别和处理与自动报告相结合，使现场检查更加准确、安全和高效。

通过分析来自传感器或其他来源的数据，可以在 AI 的帮助下检测甚至消除生产中的瓶颈。

医疗设备：在临床边缘实时处理流式数据

医疗设备制造商正在采用新的 AI 功能，以加速 TTM 并降低开发和维护成本。利用 AI 计算平台可以在以下方面赋能医疗设备开发人员：

• 更快地训练医学 AI 模型

• 构建和微调医疗 AI 应用程序

• 核实和验证医疗级应用程序

• 安全地部署到临床生产

使用 NVIDIA IGX Orin 和NVIDIA Holoscan SDK，开发人员可以大大加快 AI 应用程序和 AI 医疗设备的开发。NVIDIA Clara Holoscan是一个在 NVIDIA IGX Orin 上运行的实时 AI 计算平台，用于高精度 AI、高级别安全和 proactive safety。下面列出了 NVIDIA IGX Orin 和 NVIDIA Clara Holoscan 的一些早期用例。

• Ultrasound：AI 应用可以通过改进图像优化、分析和解释来提高超声的准确性，有助于更好地诊断癌症肿瘤或妊娠期异常等疾病。

• Endoscopy：AI 可以帮助提高成像解释的准确性和速度，从而减少医疗专业人员的工作量，并更好地检测情况。了解更多信息，请参阅AI in Endoscopy: Improving Detection Rates and Visibility with Real-Time Sensing(https://developer.nvidia.com/blog/ai-in-endoscopy-improving-detection-rates-and-visibility-with-real-time-sensing/)。

• Robotic surgery：医疗保健创新者正在探寻 AI 的方式，通过将肉眼无法看到的关键生理结构和功能（如血流）实时可视化，来帮助外科医生避免并发症。一些其他领先的公司则使用 AI 远程连接外科医生，以便合作，带来尽可能好的结果。了解更多信息，请参阅NVIDIA Medical Edge AI Computing Platform Selected by Top Robotic and Digital Surgery Startups(https://blogs.nvidia.com/blog/2022/09/20/igx-clara-holoscan-edge-ai-robotic-surgery/)。

开始着手

无论是在规划阶段、起始阶段，还是在边缘 AI 之旅的中途，NVIDIA IGX Orin 开发套件都会让你更快到达目的地。立即获取NVIDIA IGX Orin 开发套件(https://www.nvidia.com/en-us/edge-computing/products/igx/?nvid=nv-int-tblg-313058#cid=dl23_nv-int-tblg_en-us)。

扫描海报二维码，或点击“阅读原文”，即可观看 NVIDIA 创始人兼首席执行官黄仁勋 GTC23 主题演讲重播！

---

原文标题：使用 NVIDIA IGX Orin 开发套件加速边缘 AI 之旅

文章出处：【微信公众号：NVIDIA英伟达】欢迎添加关注！文章转载请注明出处。