0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

利用NVIDIA AI Enterprise IGX在边缘赋能任务关键型AI

NVIDIA英伟达企业解决方案 来源:NVIDIA英伟达企业解决方案 2024-04-26 09:46 次阅读

NVIDIA SDK 在加速智慧城市、医疗和机器人等领域的 AI 应用方面发挥了重要作用。然而,要实现可在边缘部署的生产级 AI 解决方案来为人类与机器的协作提供安全可靠的支持,就需要同时具备针对企业需求量身定制的高质量硬件和软件。

NVIDIA 再次为边缘任务关键型 AI 应用加速。NVIDIA AI Enterprise IGX 是一款可在 NVIDIA IGX 平台上运行边缘 AI 的企业级软件解决方案。

NVIDIA IGX 为您的工业级硬件提供超快的 AI 性能和高吞吐量数据处理能力,同时还具备边缘所需的尺寸和功耗,以及强大的边缘安全性、远程易管理性和内置安全机制。

NVIDIA IGX 与 NVIDIA AI Enterprise的集成使边缘 AI 更易于访问、更高效且更适合企业使用。

企业对边缘 AI 的需求

AI 堆栈由许多第三方应用和开源软件(OSS)组成并依赖于它们。鉴于其复杂性与日益增加的依赖性,维护 AI 软件堆栈的安全和稳定已成为一项艰巨的任务,这项资源密集型的任务阻碍了企业的 AI 创新步伐。

以下是一些需要考虑的因素:

稳定性和可靠性

安全性和威胁减轻措施

监管问题

稳定性和可靠性

了解软件包内的所有依赖关系对于保持 API 的稳定性来说至关重要。任何第三方和开放源码软件包的更改,都可能需要随后对 API 进行更改,而这可能会破坏堆栈。这种依赖关系网使企业几乎不可能在部署中实现最新开源版本的标准化。

安全性和威胁减轻措施

不断扩大的软件依赖性增加了引入软件漏洞的风险。这些漏洞可能导致后果严重的攻击,如数据泄露、服务中断和巨大的经济损失等。

2022 年报告的关键漏洞数量共计 4,135 个,较 2021 年增加了 59%。在延迟、隐私、带宽和监管要求方面具有更高标准的行业也不能幸免于难。根据《临床医生对医疗网络安全和网络威胁的看法》一文,2019 年有 24% 的网络攻击发生在医疗行业,2022 年,针对医院的网络攻击激增。

监管问题

许多受到高度管制的行业都对 AI 软件的维护制定了严格的规定。

例如,航空航天领域越来越多地将 AI 用于导航系统和飞行控制算法,通过严格的指导来保证持续的监控与更新,以保持系统的完整性和安全标准。

在医疗行业,AI 驱动的治疗和诊断工具同样必须遵守严格的维护协议,以保证医疗决策过程的准确性和可靠性。

NVIDIA AI Enterprise IGX

NVIDIA AI Enterprise IGX是专为在 NVIDIA IGX Orin 平台上运行关键任务应用而打造的软件解决方案。

它为整个软件堆栈提供了无与伦比的性能、安全性、稳定性和支持,使企业不再需要为维护和保护复杂的 AI 软件平台而头疼,这不仅简化了 AI 赋能的运营,还让企业能够更加放心地大规模部署 AI 应用。

在 NVIDIA AI Enterprise 成功应用于数据中心和云的基础上,NVIDIA AI Enterprise IGX 的推出将这些优势扩展到了边缘。

作为一款工业级的高性能企业级边缘解决方案,NVIDIA AI Enterprise IGX 与 NVIDIA IGX 一起为各种固件、操作系统、驱动程序、AI 框架、SDK 和库提供全面的端到端软件支持。借助专为 NVIDIA IGX 打造的稳定软件分发,您就可以在关键用例所要求的更长时段内获得软硬件支持。除了能够从单一的来源获得支持外,您还能获得长期 API 稳定性和一致的软件物料清单(SBOM)。

加入企业支持的价值在于提供能够及时解决技术问题的方案,确保边缘 AI 系统的稳定性和可靠性,避免因停机而导致重大经济损失或运营中断。

1e7bcaec-030b-11ef-a297-92fbcf53809c.png

图 1. NVIDIA AI Enterprise IGX 和 NVIDIA IGX 平台

NVIDIA AI Enterprise IGX 包含基本的 AI 库和 SDK,例如 NVIDIA TensorRTTensorFlow、PyTorch、NVIDIA Triton推理服务器Holoscan 和企业 Ubuntu Linux 操作系统等。

此外还有两个附加选项:

Yocto:适用于部署 Yocto 的企业。

功能安全:在安全、人员和财产至关重要的领域(如工业制造),可确保系统能够利用主动和被动安全策略保护关键资产和人员生命安全。

NVIDIA AI Enterprise IGX 专门用于帮助企业在构建尖端技术的同时,降低总体拥有成本(TCO)、加快产品上市速度并全面提高产品开发效率。

它具有灵活的软件分支,可提供符合您行业需求和产品开发周期的选择:

生产分支:通过每月的安全更新确保 API 的稳定性。这些分支非常适合在需要稳定性的生产环境中部署 AI,每 6 个月发布一次,生命周期为 9 个月。

长期支持分支:通过每季度的安全更新来支持长期应用生命周期。这些分支最适合用于受到高度监管的 AI 应用,每两年半发布一次,生命周期长达 10 年。

在充满挑战且复杂的边缘 AI 开发过程中,该解决方案提供了一条行之有效的 AI 成功路径。



审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 机器人
    +关注

    关注

    208

    文章

    27406

    浏览量

    202407
  • NVIDIA
    +关注

    关注

    14

    文章

    4682

    浏览量

    102117
  • 控制算法
    +关注

    关注

    4

    文章

    162

    浏览量

    21550
  • pytorch
    +关注

    关注

    2

    文章

    766

    浏览量

    12906

原文标题:利用 NVIDIA AI Enterprise IGX 在边缘赋能任务关键型 AI

文章出处:【微信号:NVIDIA-Enterprise,微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    NVIDIA 通过 Holoscan 为 NVIDIA IGX 提供企业软件支持

    Enterprise-IGX软件现已在NVIDIA IGX平台上正式可用,以满足工业边缘对实时 AI 计算日益增长的需求。它们将共同帮助医
    的头像 发表于 06-04 10:21 224次阅读

    NVIDIA 通过 Holoscan 为 NVIDIA IGX 提供企业软件支持,实现边缘实时医疗、工业和科学 AI 应用

    医疗、工业和科学计算领域的解决方案提供商利用企业级软件和支持来加快开发和部署边缘 AI 解决方案。   NVIDIA AI
    发表于 06-03 09:48 161次阅读
      <b class='flag-5'>NVIDIA</b> 通过 Holoscan 为 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>IGX</b> 提供企业软件支持,实现<b class='flag-5'>边缘</b>实时医疗、工业和科学 <b class='flag-5'>AI</b> 应用

    NVIDIA AI Enterprise荣获金奖

    NVIDIA AI Enterprise、GH200 Grace Hopper 超级芯片和 Spectrum-X 在 COMPUTEX 2024 获得认可。
    的头像 发表于 05-29 09:27 218次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> <b class='flag-5'>Enterprise</b>荣获金奖

    研华与英伟达深化合作,成为NVIDIA AI Enterprise软件全球分销商

    近日,研华宣布扩大与英伟达的合作,未来将通过工业级边缘计算和英伟达 AI Enterprise 软件平台提升全球企业的AI生产力。
    的头像 发表于 05-10 10:25 171次阅读

    研华与英伟达深化合作, 成为NVIDIA AI Enterprise软件全球分销商

    台北,2024年4月 - 研华科技(2395.TW)宣布,已扩大与NVIDIA的合作,成为台湾首家获得NVIDIA AI Enterprise认证的、用于开发和部署生产级
    发表于 05-07 11:21 122次阅读
    研华与英伟达深化合作, 成为<b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> <b class='flag-5'>Enterprise</b>软件全球分销商

    利用NVIDIA Holoscan 1.0开发生产就绪型AI传感器处理应用

    边缘 AI 开发者正在构建用于安全关键型和受监管用例的 AI 应用和产品。借助 NVIDIA Holoscan 1.0,这些应用可在几毫秒内
    的头像 发表于 04-25 09:58 248次阅读

    NanoEdge AI的技术原理、应用场景及优势

    硬件设计则是为了确保设备执行这些任务时能够保持低能耗,从而提高其续航能力。 2、应用场景 NanoEdge AI 可以广泛应用于各种物联网设备和传感器,如智能家居、工业自动化、智能交通、医疗健康
    发表于 03-12 08:09

    算力强劲的AI边缘计算盒子# 边缘计算

    AI边缘计算
    成都华江信息
    发布于 :2023年11月24日 16:31:06

    在 Azure 机器学习上充分发挥 NVIDIA AI Enterprise 的强大功能

    的方式实现这些技术的落地。 NVIDIA AI Enterprise 是一款全面的软件套件,专门用于帮助企业大规模实现企业就绪的 AI、机器学习(ML)和数据分析,并提供安全性、可靠性
    的头像 发表于 11-17 21:30 422次阅读
    在 Azure 机器学习上充分发挥 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> <b class='flag-5'>Enterprise</b> 的强大功能

    利用 NVIDIA Jetson 实现生成式 AI

    近日,NVIDIA 发布了 Jetson 生成式 AI 实验室(Jetson Generative AI Lab),使开发者能够通过 NVIDIA Jetson
    的头像 发表于 11-07 21:25 597次阅读
    <b class='flag-5'>利用</b> <b class='flag-5'>NVIDIA</b> Jetson 实现生成式 <b class='flag-5'>AI</b>

    NVIDIA AI 现已在 Oracle Cloud Marketplace 推出

    OCI 在业内率先扩展了企业对 NVIDIA DGX 云 AI 超级计算平台和 NVIDIA AI Enterprise 软件的访问权限。
    的头像 发表于 10-24 10:30 290次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> 现已在 Oracle Cloud Marketplace 推出

    英码科技精彩亮相火爆的IOTE 2023,多面AIoT产业发展!

    产品,包括覆盖多层次算力的智能工作站(边缘计算盒子)、AI加速卡等;同时向大家展示自研的AI技术服务——“深元”0代码移植工具链和创新性的行业解决方案,
    发表于 09-25 10:03

    NVIDIA AI Enterprise 4.0 推出,助力企业构建生产就绪的生成式 AI 为业务赋能

    时。NVIDIA 正在将专业知识投入到解决方案的开发过程中,助力企业实现这样的飞跃。 推出 NVIDIA AI Enterprise 4.0 最新版 
    的头像 发表于 09-19 20:20 442次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> <b class='flag-5'>Enterprise</b> 4.0 推出,助力企业构建生产就绪的生成式 <b class='flag-5'>AI</b> 为业务赋能

    AI边缘计算是什么意思?边缘ai是什么?AI边缘计算应用

    AI边缘计算是什么意思?边缘ai是什么?AI边缘计算应用  随着人工智能技术的不断发展,
    的头像 发表于 08-24 15:18 1656次阅读

    什么是 NVIDIA AI Enterprise

    利用 NVIDIA AI 企业在 Azure 机器学习上的力量
    的头像 发表于 07-05 16:30 1151次阅读
    什么是 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> <b class='flag-5'>Enterprise</b>