0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

使用Clara Holoscan加速AI推理和图形可视化

星星科技指导员 来源:NVIDIA 作者:NVIDIA 2022-04-15 14:45 次阅读

NVIDIA Clara Holoscan 为开发人员提供了一个可扩展的医疗设备计算平台,以创建人工智能微服务并实时提供见解。该平台优化了数据管道的每个阶段:从高带宽数据流和基于物理的分析到加速 AI 推理和图形可视化。

目前可用的 NVIDIA Clara AGX Developer Kit 将 AGX Xavier SoC的高效基于Arm嵌入式计算与 NVIDIA ConnectX-6 network processor 强大的 NVIDIA RTX 6000 GPU 和100GbE连接相结合。这为下一代智能、软件定义的嵌入式医疗设备带来了实时AI加速。开发者使用 Clara AGX开发者工具包进行外科视频应用,如AI增强内窥镜检查、腹腔镜检查或其他微创手术,需要在其视频处理路径中尽可能减少端到端延迟。客户今天可以在 Clara AGX开发工具包上使用 Clara Holoscan SDK v0.1 ,2022年下半年可以在下一代开发工具包上使用 Clara Holoscan SDK v0.1 。

手术视频的需求要求内窥镜捕获的图像与投影到监视器上的图像之间具有一致且可靠的低延迟。这为外科医生提供了对工具的实时控制和对患者的监控。

在典型的内窥镜系统中,图像在内窥镜中的摄像机传感器处数字化,由 FPGAASIC 序列化,并传输到视频处理器,在视频处理器中写入输入帧缓冲器,进行处理,写入输出帧缓冲器,然后串行传输到监视器。每个步骤都会给视频管道增加延迟。希望添加高级 GPU – 加速 AI 处理的开发人员会面临额外的传输延迟,因为需要将数据从视频捕获卡写入系统内存,然后通过 CPU 传输和 PCIe 总线连接到[ZFBB]。

GPU 计算性能是英伟达 NTV2 SDK 16.1 全息扫描平台的一个关键组成部分。为了优化基于 GPU 的视频处理应用程序, NVIDIA 与 AJA Video Systems 合作,将其视频捕获卡系列与 Clara AGX 开发工具包集成。 AJA 提供了一系列经验证的专业视频 I / O 设备。 NVIDIA 和 AJA 之间的合作关系导致自 Clara 发布以来, AJA NTV2 SDK 和设备驱动程序中增加了 Clara AGX 开发工具包支持。

AJA 驱动程序和 SDK 现在为 NVIDIA GPU 提供 GPUDirect 支持。此功能使用远程直接内存访问( RDMA )将视频数据直接从捕获卡传输到 GPU 内存。这大大减少了 GPU 视频处理应用程序的延迟和系统 PCIe 带宽,因为从处理管道中消除了 GPU 拷贝的系统内存。

AJA 设备现在还将 RDMA 支持合并到 AJA GStreamer 插件中,以实现零拷贝 GPU 缓冲区与 DeepStream SDK 的集成。 DeepStream 应用程序现在可以处理整个管道中的视频数据,从初始捕获到最终显示,无需留下 GPU 内存。

NVIDIA Clara Holoscan SDK v0 。 1 构建于先前 Clara AGX SDK 的功能之上,并添加了允许详细测量视频 I / O 卡、 CPU 和 GPU 之间视频传输延迟的工具。这将使用户能够通过各种配置测量延迟,使他们能够专注于改善瓶颈和优化工作流程,以实现最小的端到端延迟。

数据传输延迟是使用 Clara AGX 开发工具包和使用内部 PCIe Gen3 x8 连接的 AJA 捕获卡测量的。下表演示了使用 GPU Direct 可以实现的延迟减少。

然后,在启用和不启用 GPU Direct 的情况下,测量与 GPU 之间的视频数据传输的总时间,以及在 GPU 中处理的剩余时间:

请注意, GPU Direct 通过消除写入系统内存的需要,将传输时间缩短了约一半。 GPU Direct 允许以 60 fps 的速度传输和处理 4K UHD RGBA 输入。现在可以在 16 。 666 毫秒帧时间下传输,而没有 GPU Direct ,该格式无法以 60 fps 的速度传输。这使得未压缩的高分辨率视频能够与 AI 工作流中的叠加进行本地 alpha 混合。不需要从 YUV 格式转换为 RGBA 格式,并且在 60 fps 的帧速率上也没有任何折衷。

关于作者

Yaniv Lazmy 是 NVIDIA 医疗团队的技术产品经理,专注于医疗设备的加速计算和连接解决方案。在加入 NVIDIA 之前, Yaniv 是 NeuWave Medical 和 Johnson and Johnson 的嵌入式系统工程师

Ian Stewart 是 Clara Holoscan 团队的软件工程师,专注于 GPU 加速医疗设备的优化和部署。 Ian 在 NVIDIA 工作了十多年,跨越了各种图形、图像和嵌入式开发团队。

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 传感器
    +关注

    关注

    2548

    文章

    50692

    浏览量

    752034
  • NVIDIA
    +关注

    关注

    14

    文章

    4940

    浏览量

    102818
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4702

    浏览量

    128708
收藏 人收藏

    评论

    相关推荐

    智慧楼宇可视化的优点

    智慧楼宇可视化是指通过数据可视化技术来展示和分析楼宇的各种数据,为楼宇管理者和用户提供直观、清晰的信息展示和决策支持。以下是智慧楼宇可视化的优点,详细介绍其在楼宇管理和运营中的重要作用: 1.实时
    的头像 发表于 11-19 14:25 116次阅读

    大屏数据可视化 开源

    在当今信息爆炸的时代,数据已经成为各个行业决策制定和业务发展的关键。为了更直观、准确地理解和利用海量数据, 大屏数据可视化 成为一种强大的工具。通过将数据以图表、图形等形式展示在大屏幕上,不仅
    的头像 发表于 06-27 16:06 378次阅读
    大屏数据<b class='flag-5'>可视化</b> 开源

    如何实现园区大屏可视化

    孪生可视化 构建平台利用Web三维可视化技术对现实场景进行仿真,实现园区级业务场景 的可视化呈现,助力企业快速完成项目的实施。实现园区场景立体可先,极致可视。那么,今天古河云科技就来给
    的头像 发表于 06-19 15:39 384次阅读
    如何实现园区大屏<b class='flag-5'>可视化</b>?

    物联网时代,为什么需要可视化数据大屏

    效率、能耗水平等信息,从而合理优化并采取措施,促进企业的数字转型。 由于人类大脑对视觉信息的处理优于对文本的处理,因此使用图表、图形和设计元素把数据进行可视化,可以帮助更容易的了解数据模式、趋势、统计规律
    的头像 发表于 06-18 13:53 328次阅读
    物联网时代,为什么需要<b class='flag-5'>可视化</b>数据大屏

    态势数据可视化技术有哪些

    智慧华盛恒辉态势数据可视化技术是一种将数据以图形、图像、动画等视觉形式展现出来的技术,特别是在处理和分析态势数据时,该技术能够将复杂的数据转化为直观、易于理解的视觉表现。以下是态势数据可视化技术
    的头像 发表于 06-11 15:47 352次阅读

    c语言怎么做可视化界面

    C语言是一种通用的编程语言,广泛应用于系统编程、嵌入式开发等领域。虽然C语言本身并不支持直接创建可视化界面,但通过结合一些图形库和工具,我们可以为C语言程序开发出直观、易用的可视化界面。本文将详细
    的头像 发表于 06-06 10:46 2107次阅读

    大屏数据可视化的作用和意义

    大屏数据可视化是指利用大屏幕设备展示数据信息,通过图表、图像、动画等视觉手段将数据呈现出来,以便用户能够直观、清晰地理解数据背后的含义和关联。在信息化时代,数据已经成为企业决策和运营的重要依托,而
    的头像 发表于 06-03 17:56 633次阅读

    深入探讨机器学习的可视化技术

    机器学习可视化(简称ML可视化)一般是指通过图形或交互方式表示机器学习模型、数据及其关系的过程。目标是使理解模型的复杂算法和数据模式更容易,使技术和非技术利益相关者更容易理解它。
    发表于 04-25 11:17 374次阅读
    深入探讨机器学习的<b class='flag-5'>可视化</b>技术

    FUXA基于Web的过程可视化软件案例

    FUXA——基于Web的过程可视化软件
    发表于 04-24 18:32 1次下载

    态势数据可视化技术有哪些

    智慧华盛恒辉态势数据可视化技术是一种将复杂、动态的态势数据以直观、易于理解的方式展现出来的技术手段。以下是几种主要的态势数据可视化技术: 网络安全态势指标可视化分析系统及方法,针对安全态势指标不准
    的头像 发表于 04-22 15:17 382次阅读

    态势可视化系统软件

    ,也是指挥人员认识战场环境的最主要手段。而多维战场环境态势可视化就是利用战场环境态势信息,基于一致的空间基准, 以空间地理信息为可视化载体,叠加显示战场环境各要素,以计算机图形学、制图学和地理信息学等为手段,借助多种
    的头像 发表于 04-22 14:48 295次阅读

    物联网可视化监控大屏如何实现?有什么功能?

    在物联网飞速发展的时代,可视化监控大屏成为了众多企业和机构实现智能管理和监控的重要工具。它将各种各样设备的运行状态和数据以图形、图表、动画等形式展示在大屏或其他移动设备上,使得用户能够直观地了解
    的头像 发表于 04-11 09:25 792次阅读

    迎接数智时代:数字经济引领可视化转型

    数字经济和数字转型正推动企业进行变革,可视化和数智化成为关键驱动力。NFC技术为企业提供了更便捷、更安全的数据传输途径,加速数字转型。企业应打造
    的头像 发表于 01-15 17:59 511次阅读
    迎接数智时代:数字经济引领<b class='flag-5'>可视化</b>转型

    可视化全程追溯,可视化资产管理系统

    摘要:本文将从应用价值、系统功能、资产盘点、资产出入库、资产定位以及系统实现能效等几个方面,阐述新导物联可视化资产管理系统为企业提供的优势,以提升资产管理的效率和准确度。 一、应用价值 可视化资产
    的头像 发表于 01-11 13:54 463次阅读
    <b class='flag-5'>可视化</b>全程追溯,<b class='flag-5'>可视化</b>资产管理系统

    一键生成可视化图表/大屏 这13款数据可视化工具很强大

    前言 数字经济时代,我们每天正在处理海量数据,对数据可视化软件的需求变得突出,它可以帮助人们通过模式、趋势、仪表板、图表等视觉辅助工具理解数据的重要性。 如果遇到数据集需要分析处理,但是你不又知道
    的头像 发表于 12-19 17:27 5261次阅读
    一键生成<b class='flag-5'>可视化</b>图表/大屏 这13款数据<b class='flag-5'>可视化</b>工具很强大