0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA IGX平台加速实时边缘AI应用

NVIDIA英伟达企业解决方案 来源:NVIDIA英伟达企业解决方案 2024-09-09 10:14 次阅读

实时边缘 AI 对于医疗、工业和科学计算至关重要,因为这些任务关键型应用需要即时数据处理、低延迟和高可靠性,以确保作出及时准确的决策。这些挑战不仅涉及硬件平台上的高带宽传感器处理和 AI 计算,还需要企业级 AI 软件来支持整个边缘计算软件堆栈。

NVIDIA IGX 专为工业和医疗环境而设计,可为企业提供边缘 AI 所需的性能、耐用性、安全性和保密性。借助 NVIDIA AI Enterprise 上的 GPU 加速计算,IGX 加速了各行业先进的 AI 解决方案的开发,并大幅降低时间和成本,使企业无需花费数年时间设计自定义系统和定制 AI 模型。

在 COMPUTEX 2024 上,IGX 进行了一次重大更新,引入生产就绪型 NVIDIA AI Enterprise IGX 并扩展了 IGX 系统。所有相关的改进都提供长达 10 年的硬件和软件支持,使企业能够提供安全可靠的 AI,以支持人机协作。

NVIDIA IGX 软件堆栈现已生产就绪

随着 NVIDIA IGX-SW 1.0 的公开发布,NVIDIA IGX 上的软件堆栈现已投入生产。您还可以获得 NVIDIA AI Enterprise IGX 的长期支持,并在 NVIDIA 的支持下放心地部署您的产品

为满足对多模态生成式 AI 部署和高带宽信号处理日益增长的需求,此版本将 AI 计算能力扩展到 1705 TOPS。相比使用板上集成 iGPU,AI 性能提升了 7 倍。借助此类高性能 AI 计算,您可以轻松运行要求严苛的 AI 任务,并支持生成式 AI 应用。

此版本还提供一个简单易用的 Web 界面来安装所有固件,有效简化了安装过程:只需选择所需的固件,然后单击安装按钮。

下载中心下载 NVIDIA IGX-SW 1.0 公开版本,所有软件堆栈均可免费用于开发和评估。

在生产方面,软件堆栈由 NVIDIA AI Enterprise IGX 提供支持,并通过 NVIDIA 专家提供企业级长期支持。订阅 NVIDIA AI Enterprise IGX 后,您可以访问以下选项:

生产分支:使用最新的 NVIDIA AI 堆栈,并利用最新的技术和优化。每 6 个月发布一次新的生产分支,每个分支维护 9 个月。这为零售和机器人等用例提供了一个理想选择,确保您可以引入最新的 AI 模型和生成式 AI 任务。

长期支持分支:版本锁定,维护和支持长达 10 年。新的长期支持分支每 2.5 年发布一次,包含新版本的堆栈。这对于医疗和科学计算等受监管行业来说是理想的选择。

这两个分支均可提供对安全漏洞、API 稳定性、错误修复的持续监控,并由 NVIDIA 专家和工程师提供技术支持和及时解决问题。有关更多信息,请参阅如何使用 NVIDIA AI Enterprise IGX 支持任务关键型边缘 AI。

首先,将固件、操作系统和计算堆栈下载到 NVIDIA IGX Orin 开发者套件。有关安装的更多信息,请参阅 NVIDIA IGX 用户指南。

要开始使用 NVIDIA AI Enterprise IGX,请申请 NVIDIA AI Enterprise IGX 软件试用版。

专为医疗、工业和机器人使用而设计的企业级应用框架

NVIDIA IGX 支持 NVIDIA 提供的所有用于边缘的 SDK、应用框架和工具。

wKgZombeWiCAHSB7AAHev0m0ESQ731.png

图 . IGX Orin 硬件上的 NVIDIA 应用框架

它包括以下应用框架:

NVIDIA Holoscan 用于从边缘到云端的实时传感器处理

NVIDIA Metropolis 用于构建、部署和扩展视觉 AI 应用

NVIDIA Isaac 用于构建高性能机器人应用

使用 NGC 中的预训练模型缩短模型开发时间,使用合成数据生成器来创建用于模型训练的合成数据,并使用 NVIDIA TAO 工具套件快速训练和优化模型,以实现最佳模型性能。

多模态 AI 和生成式 AI 在处理非结构化数据和多样化环境方面变得越来越重要。

在医疗领域,医疗诊断、用于外科手术的 AI copilot、AI 手术机器人和用于患者护理的 AI 智能体现已成为可能。

在制造仪器中,可以进行实时晶圆检测和高带宽传感器处理。

在科学计算领域,雷达处理和射电天文学将由 AI 提供动力。

工业机器人领域,AI 将为工厂自动化和机器人协作提供安全防护。

您可以在 Omniverse 中找到许多此类应用示例和生成式 AI 模型,在 /nvidia-holohub GitHub 库中也有相关资源。

通过 NVIDIA 认证系统扩展 IGX 系列

NVIDIA IGX Orin 平台引入了一款全新产品—— IGX Orin 500 系统模块。它为 OEM 提供了设计载板和自定义配置的灵活性,以满足客户需求。在不牺牲企业软件支持的情况下,IGX Orin 500 具有与 IGX Orin 700(此前名为 IGX Orin Boardkit)相同的 iGPU、CPU、内存和存储,并且能够通过附加 sMCU 来实现功能安全,适用于机器人和智能农业应用。

wKgZombeWiuAZ7DxAACs816E6xg240.png

表 1. 主要特性比较

* 1705 TOPS = 248 TOPS(GPU)+1457 TOPS(dGPU)

通过使用 NVIDIA IGX Orin 500 设计指南,OEM 和 ODM 合作伙伴可以开始进行定制载板设计。对于所有 IGX 系统,OEM 完整系统都需要通过相同的 NVIDIA 认证流程,以确保获得企业级软件支持和最佳的 AI 软件性能。这种严格的测试和验证降低了部署可支持复杂、计算密集型生成式 AI 任务的专用基础设施所涉及的风险和时间。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 传感器
    +关注

    关注

    2553

    文章

    51489

    浏览量

    757114
  • 机器人
    +关注

    关注

    211

    文章

    28724

    浏览量

    208779
  • NVIDIA
    +关注

    关注

    14

    文章

    5083

    浏览量

    103874
  • AI
    AI
    +关注

    关注

    87

    文章

    31785

    浏览量

    270578

原文标题:NVIDIA IGX 平台引入生产就绪型企业级软件,赋能医疗、工业和科学领域实时边缘 AI 应用

文章出处:【微信号:NVIDIA-Enterprise,微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    相关推荐

    NVIDIA发布Cosmos平台加速物理AI开发

    NVIDIA近日宣布了一项重大创新——推出NVIDIA Cosmos™平台。该平台集成了先进的生成式世界基础模型、高级tokenizer、护栏以及
    的头像 发表于 01-13 11:06 447次阅读

    日立铁路借助NVIDIA技术加速实时铁路分析

    这家全球运输公司正在使用企业级工业边缘计算平台 NVIDIA IGX,以改善铁路运营、降低维护成本和减少能耗。
    的头像 发表于 11-20 10:09 290次阅读

    使用NVIDIA AI平台确保医疗数据安全

    三井物产株式会社子公司借助 NVIDIA AI 平台实现数据集的安全共享并使用在这些数据集上建立的强大模型加速药物研发。
    的头像 发表于 11-20 09:37 251次阅读

    NVIDIA AI加速推进药物研发

    在当前的医疗健康领域,AI 的重要性愈发凸显。NVIDIA AI加速推进药物研发,致力于减少药物的研发时间和成本,使更多的老年患者能够更快获得关键治疗。
    的头像 发表于 11-19 16:07 319次阅读

    NVIDIA加速AI在日本各行各业的应用

    企业借助基于 NVIDIA AI Enterprise 与 Omniverse 工业 AI 构建的创新中心和服务加速 AI 转型。
    的头像 发表于 11-19 15:45 323次阅读

    赖耶科技通过NVIDIA AI Enterprise平台打造超级AI工厂

    NVIDIA 技术团队保持合作。赖耶科技通过NVIDIA AI Enterprise平台打造的超级 AI 工厂,致力于
    的头像 发表于 11-19 14:55 517次阅读

    日本企业借助NVIDIA产品加速AI创新

    日本领先企业和大学正在使用 NVIDIA NeMo、NIM 微服务和 NVIDIA Isaac 加速 AI 创新。
    的头像 发表于 11-19 14:34 425次阅读

    NVIDIA新增生成式AI就绪系统认证类别

    借助全新的 NVIDIA Spectrum-X Ready 和 NVIDIA IGX 认证,领先的制造业合作伙伴将提供高性能系统,帮助客户轻松部署 AI
    的头像 发表于 10-10 09:44 447次阅读

    HPE 携手 NVIDIA 推出 NVIDIA AI Computing by HPE,加速生成式 AI 变革

    by HPE 包含了可持续的加速计算产品组合以及全生命周期服务,将简化 AI 创造价值的过程,加速生成式 AI 的发展步伐。 NVIDIA
    的头像 发表于 06-21 14:39 433次阅读

    NVIDIA推出NVIDIA AI Computing by HPE加速生成式 AI 变革

    作为极具开创性的一站式“交钥匙”私有云人工智能(private-cloud AI)解决方案,NVIDIA AI Computing by HPE 包含了可持续的加速计算产品组合以及全生
    的头像 发表于 06-20 17:36 794次阅读

    MediaTek与NVIDIA TAO加速物联网边缘AI应用发展

    在即将到来的COMPUTEX 2024科技盛会上,全球知名的芯片制造商MediaTek宣布了一项重要合作——将NVIDIA的TAO(TensorRT Accelerated Optimizer)与其NeuroPilot SDK(软件开发工具包)集成,共同推动边缘
    的头像 发表于 06-12 14:49 519次阅读

    NVIDIA 通过 Holoscan 为 NVIDIA IGX 提供企业软件支持

    Enterprise-IGX软件现已在NVIDIA IGX平台上正式可用,以满足工业边缘实时
    的头像 发表于 06-04 10:21 574次阅读

    NVIDIA 通过 Holoscan 为 NVIDIA IGX 提供企业软件支持,实现边缘实时医疗、工业和科学 AI 应用

    NVIDIA Holoscan 的 NVIDIA AI Enterprise-IGX 软件现已在 NVIDIA
    发表于 06-03 09:48 353次阅读
      <b class='flag-5'>NVIDIA</b> 通过 Holoscan 为 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>IGX</b> 提供企业软件支持,实现<b class='flag-5'>边缘</b><b class='flag-5'>实时</b>医疗、工业和科学 <b class='flag-5'>AI</b> 应用

    利用NVIDIA AI Enterprise IGX边缘赋能任务关键型AI

    NVIDIA SDK 在加速智慧城市、医疗和机器人等领域的 AI 应用方面发挥了重要作用。
    的头像 发表于 04-26 09:46 561次阅读
    利用<b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Enterprise <b class='flag-5'>IGX</b>在<b class='flag-5'>边缘</b>赋能任务关键型<b class='flag-5'>AI</b>

    NVIDIA Isaac机器人平台升级,加速AI机器人技术革新

    NVIDIA Isaac机器人平台近期实现重大升级,通过引入最新的生成式AI技术和先进的仿真技术,显著加速AI机器人技术的发展步伐。该
    的头像 发表于 03-27 10:36 762次阅读