0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

利用NVIDIA Holoscan 1.0开发生产就绪型AI传感器处理应用

NVIDIA英伟达企业解决方案 来源:NVIDIA英伟达企业解决方案 2024-04-25 09:58 次阅读

边缘 AI 开发者正在构建用于安全关键型和受监管用例的 AI 应用和产品。借助 NVIDIA Holoscan 1.0,这些应用可在几毫秒内整合实时洞察和加工处理。

借助最新发布的 NVIDIA Holoscan 1.0,开发者可以更加轻松地构建用于多模态实时传感器处理工作的生产就绪型应用。NVIDIA AI Enterprise 现为 Holoscan 软件堆栈提供安全补丁和关键漏洞修复,并保证 API 的稳定性,这不仅降低了产品维护成本,还简化了边缘 AI 应用的大规模部署。

什么是 NVIDIA Holoscan?

Holoscan 是 NVIDIA 不限领域的多模态实时 AI 传感器处理平台,它为开发者构建端到端传感器处理管道奠定了基础。该平台以性能、可用性和生产就绪性为架构目标,在优化传感器处理工作流各环节性能的同时,最大程度地降低开发复杂性。该工作流包含:

传感器数据入口

加速计算和 AI 推理

实时可视化、执行和数据流出口

从固定功能仪器过渡到软件定义仪器

Holoscan 平台具体包含三个主要组成部分。第一个组成部分是软件,该平台以数据移动、加速计算、实时可视化和 AI 推理为基础,建立了不限领域的 AI 实时传感器处理工作流。

NVIDIA Holoscan 是唯一能将这些功能整合在一起的单一平台。它不仅能够保证应用性能,还能降低复杂性,并缩短产品上市时间。NVIDIA Holoscan SDK 为开发者提供了一个低代码、高性能的环境,使开发者可以通过 PythonC++ API 使用自己选择的编程语言构建工作流。

Holoscan 平台的第二个组成部分是硬件。Holoscan 支持多种硬件配置,可满足不同的功率、尺寸、成本、计算和配置需求,包括:

NVIDIA Jetson Orin 系列产品(Orin Nano、Orin NX 和 AGX Orin)

NVIDIA IGX Orin

NVIDIA IGX Orin 外加 NVIDIA 独立 GPU,同时具备集成 GPU 和独立 GPU 的功能

搭载 NVIDIA 独立 GPU 的 x86 系统(工作站或云)

Holoscan 平台的第三个组成部分是企业支持,专门用于满足医疗技术产品发布前和发布后的需求。通过 NVIDIA AI Enterprise 提供的 Holoscan 软件服务可获得长期(长达 10 年)的全栈软件支持。

该服务具体可向开发者发布安全补丁和关键漏洞修复,并保证 API 的稳定性,从而大大降低产品维护成本。这不仅简化了操作,还让开发者能够更加放心地大规模部署 AI 应用。

生产就绪性

AI 计算的引入为企业提供了一系列可能性,这些企业正在寻找新的方式来提供差异化和价值,同时更有效地利用数据。然而,AI 软件堆栈非常复杂,影响因素达数百个,而且使用了大量第三方开放源码软件库。

软件复杂性的增加等同于脆弱性的增加。安全性、稳定性、可靠性和生产就绪性至关重要,但对于希望在其应用中利用这些软件的开发者和企业来说却极具挑战性,对于医疗设备、机器人等安全关键型和受监管的行业来说尤其如此。

例如 2023 年,美国食品及药品管理局(FDA)发布了新的医疗设备网络安全指南,规定如果提交的上市前材料中未包含 FD&C 法案第 524B 条(确保设备的网络安全)所要求的信息,则有可能被拒绝接受(RTA)。根据规定,制造商必须在产品上市后设计并发布更新和补丁,提供软件物料清单(SBOM)并提交一份确认和解决“上市后网络安全漏洞”的计划。

这给该领域开发者和企业的 AI 平台构建与维护带来了更大的挑战:

维护安全的软件堆栈需要大量资源。

在进行 CVE 扫描后需要进行评估和探索,以便采取进一步行动和措施。

软件包安全更新可能需要对依赖的 API 进行后续更改,这可能会破坏向后兼容性。

需要对整个堆栈进行持续监控和更新。

这意味着需要定期安装安全补丁和修复漏洞,并留给了企业两个代价高昂的选择:

向后移植补丁和修复程序,以避免破坏堆栈和引发潜在的验证、确认与重新认证需求。

向前滚动,但会面临破坏产品功能和增加新错误的潜在风险,产生成本高昂的验证、确认乃至重新认证周期。

生产就绪对 Holoscan 开发者的意义

Holoscan 平台为边缘提供了一个用于实时处理多模态数据的加速全栈基础设施。在过去的几个版本中,Holoscan 平台的特性和功能主要集中在高性能计算、低延迟和高吞吐量多模态传感器流式传输以及出色的可用性和更短的产品上市时间等方面。

在加入 NVIDIA AI Enterprise 后,Holoscan 1.0 增加了生产就绪性,能够为开发者提供端到端全产品生命周期支持,它还能加速企业的 AI 创新过程,同时降低产品拥有和维护的总成本。

在 NVIDIA IGX 上构建产品

凭借全栈软件支持(包括固件、操作系统、驱动程序、AI 框架、GPU 加速和 SDK),开发者可以通过单一的来源获得全栈支持,同时还能确保 API 的长期稳定和软件物料清单(SBOM)的统一。这一经过优化的服务可满足边缘客户的各种需求,例如:

CVE 补丁和关键漏洞修复以及 API 的稳定性保证。

灵活的软件分支,可选择不同的期限(9 个月至 10 年)以满足不同行业和不同产品开发阶段的开发者需求。9 个月期限支持分支每 6 个月发布一次,10 年期限支持分支每 2.5 年发布一次。

嵌入式开发者提供 Yocto 企业支持,这些开发者更喜欢使用基于 Yocto 的定制发行版来部署产品。

基于 Yocto 的发行版可实现最小的 SBOM,只需最少的组件即可使设备正常运行。它们不仅简化了 FMEA、SW/SOUP 危险分析、网络安全危险分析和渗透测试,降低了上市后维护的监管负担和成本,还支持嵌入式硬件资源的高效利用,包括存储、内存、处理能力和电能等。


审核编辑:刘清
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 传感器
    +关注

    关注

    2550

    文章

    51037

    浏览量

    753085
  • NVIDIA
    +关注

    关注

    14

    文章

    4978

    浏览量

    102993
  • python
    +关注

    关注

    56

    文章

    4792

    浏览量

    84629
  • GPU芯片
    +关注

    关注

    1

    文章

    303

    浏览量

    5804

原文标题:利用 NVIDIA Holoscan 1.0 开发生产就绪型 AI 传感器处理应用

文章出处:【微信号:NVIDIA-Enterprise,微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    Microchip发布PolarFire FPGA以太网传感器桥接器

    为了帮助开发人员构建人工智能(AI)驱动的传感器处理系统,Microchip Technology Inc.(微芯科技公司)发布了支持NVIDIA
    的头像 发表于 11-25 16:43 361次阅读

    Microchip PolarFire® FPGA以太网传感器桥与NVIDIA Holoscan传感器处理平台兼容的人工智能(AI)驱动的传感器处理系统

    Microchip Technology推出了PolarFire® FPGA以太网传感器桥,以帮助开发人员创建与NVIDIA Holoscan传感器
    的头像 发表于 11-19 09:29 528次阅读

    使用全新NVIDIA AI Blueprint开发视觉AI智能体

    为提高生产力、优化流程和创造更加安全的空间,埃森哲、戴尔科技和联想等公司正在使用全新 NVIDIA AI Blueprint 开发视觉 AI
    的头像 发表于 11-06 13:58 379次阅读

    NVIDIA新增生成式AI就绪系统认证类别

    借助全新的 NVIDIA Spectrum-X Ready 和 NVIDIA IGX 认证,领先的制造业合作伙伴将提供高性能系统,帮助客户轻松部署 AI
    的头像 发表于 10-10 09:44 361次阅读

    NVIDIA RTX AI套件简化AI驱动的应用开发

    NVIDIA 于近日发布 NVIDIA RTX AI套件,这一工具和 SDK 集合能够帮助 Windows 应用开发者定制、优化和部署适用于 Windows 应用的
    的头像 发表于 09-06 14:45 436次阅读

    光电传感器的功能是什么呢

    光电传感器功能的分析: 工作原理 槽光电传感器主要由光源、光电元件、信号处理电路和输出接口组成。当物体通过槽通道时,光源发出的光线被物体
    的头像 发表于 09-04 11:05 514次阅读

    光电传感器工作原理是什么

    光电传感器是一种利用光电效应来检测物体位置、形状、尺寸等特征的传感器。它广泛应用于工业自动化、机器人技术、精密测量等领域。 一、槽光电
    的头像 发表于 09-04 10:57 736次阅读

    借助NVIDIA NIM加速AI应用部署

    大语言模型(LLM)在企业组织中的应用日益广泛,许多企业都将其整合到 AI 应用中。虽然从基础模型着手十分高效,但需要花费一定的精力才能将它们整合到生产就绪环境中。
    的头像 发表于 08-23 16:38 388次阅读
    借助<b class='flag-5'>NVIDIA</b> NIM加速<b class='flag-5'>AI</b>应用部署

    无源传感器的分类、工作原理及应用

    无源传感器是一种不需要外部电源就能工作的传感器,其工作原理主要依赖于被测量的物理量或化学量的变化,从而引起传感器内部的某些物理或化学参数发生
    的头像 发表于 08-19 09:57 1341次阅读

    NVIDIA Holoscan SDK中使用OpenCV构建零拷贝AI传感器处理管线

    NVIDIA HoloscanNVIDIA 的跨领域多模态实时 AI 传感器处理平台,为
    的头像 发表于 07-02 11:50 514次阅读
    在<b class='flag-5'>NVIDIA</b> <b class='flag-5'>Holoscan</b> SDK中使用OpenCV构建零拷贝<b class='flag-5'>AI</b><b class='flag-5'>传感器</b><b class='flag-5'>处理</b>管线

    如何基于OrangePi AIpro开发AI理应

    香橙派AIpro开发板采用昇腾AI技术路线,接口丰富且具有强大的可扩展性,提供8/20TOPS澎湃算力,可广泛使用于AI边缘计算、深度视觉学习及视频流AI分析、视频图像分析、自然语言
    的头像 发表于 06-04 14:23 525次阅读
    如何基于OrangePi AIpro<b class='flag-5'>开发</b><b class='flag-5'>AI</b>推<b class='flag-5'>理应</b>用

    NVIDIA 通过 HoloscanNVIDIA IGX 提供企业软件支持

    Enterprise-IGX软件现已在NVIDIA IGX平台上正式可用,以满足工业边缘对实时 AI 计算日益增长的需求。它们将共同帮助医疗、工业和科学计算领域的解决方案提供商利用企业级软件和支持来加快
    的头像 发表于 06-04 10:21 497次阅读

    NVIDIA 通过 HoloscanNVIDIA IGX 提供企业软件支持,实现边缘实时医疗、工业和科学 AI 应用

    医疗、工业和科学计算领域的解决方案提供商利用企业级软件和支持来加快开发和部署边缘 AI 解决方案。   NVIDIA AI Enterpri
    发表于 06-03 09:48 303次阅读
      <b class='flag-5'>NVIDIA</b> 通过 <b class='flag-5'>Holoscan</b> 为 <b class='flag-5'>NVIDIA</b> IGX 提供企业软件支持,实现边缘实时医疗、工业和科学 <b class='flag-5'>AI</b> 应用

    MathWorks联手NVIDIA加速医疗技术领域中软件定义工作流的开发

    先的数学计算软件开发商 MathWorks 宣布,MATLAB 已成功集成到 NVIDIA Holoscan 平台。
    的头像 发表于 05-09 11:45 1758次阅读
    MathWorks联手<b class='flag-5'>NVIDIA</b>加速医疗技术领域中软件定义工作流的<b class='flag-5'>开发</b>

    使用NVIDIA Holoscan for Media构建下一代直播媒体应用

    NVIDIA Holoscan for Media 现已向所有希望在完全可重复使用的集群上构建下一代直播媒体应用的开发者开放。
    的头像 发表于 04-16 14:04 664次阅读