0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA工具和技术为混合式AI工作流提供支持

NVIDIA英伟达 来源:NVIDIA英伟达 2024-09-09 09:25 次阅读

生成式 AI 为 Windows 应用和游戏带来了各种新功能。它为无脚本、动态的 NPC 提供动力,助力创作者生成新颖的艺术作品,并帮助游戏玩家将帧率提升高达 4 倍。但这些不过是冰山一角。

随着生成式 AI 的功能和使用场景不断增加,相关计算需求也水涨船高。

混合式 AI 将 NVIDIA RTX 的端侧 AI 加速与云端的可扩展 GPU 相结合,可有效且高效地满足 AI 工作负载的需求。

混合式 AI,鱼与熊掌兼得

随着 AI 的普及,应用开发者正在寻找各种可行的部署方式:在 RTX GPU 上本地运行的 AI 兼具高性能和低延迟,即使在离线情况下也可随时使用。另一方面,在云端运行的 AI 能够运行规模更大的模型并且可以跨多个 GPU 进行扩展,还可以同时为多个用户提供服务。在许多情况下,一个应用程序会同时使用这两种方式部署的服务。

混合式 AI 组合与协调本地 PC 和工作站的算力与云的扩展能力。它可以根据特定使用场景、成本和性能要求灵活优化 AI 工作负载,帮助开发者确保 AI 任务在其特定应用场景下最合适的设备上运行。

无论 AI 是在本地还是在云端运行,它都可以通过 NVIDIA GPU 和 NVIDIA 的 AI 技术栈(包括 TensorRT 和 TensorRT-LLM)进行加速。这意味着我们可以减少无谓的等待时间,并可为用户提供更多的先进 AI 功能。

这一系列 NVIDIA 工具和技术可为创作者、游戏玩家和开发者的混合式 AI 工作流提供支持。

理想的云端应用由 RTX 实现

生成式 AI 已经证明它能够为艺术家的创作提供灵感,加速设计,启发构思。此类解决方案包括 iStock 推出的云端生成式 AI,这是一项由 NVIDIA Edify 驱动的生成式摄影图片服务,专为艺术家打造。另一方面,艺术家也为该生成式 AI 的模型训练贡献了各种授权内容,而做出贡献的艺术家也会因此获得报酬。

iStock 的生成式 AI 不仅可以用于图像生成,还可以为艺术家提供丰富的工具,以便他们探索各种风格和变化,修改图像的某个部分或扩展画布。借助这些工具,艺术家可以快速完成多次概念设计,并将创意转变为现实方案。

创意概念准备完成后,艺术家就可以将其转移到本地设备上。RTX 助力的 PC 和工作站可在超过 125 款热门创意应用中为艺术家提供 AI 加速,帮助他们最大化实现自己的创意愿景:无论是使用本地 AI 工具在 Photoshop 中创建令人惊叹的艺术作品,在 DaVinci Resolve 中使用视差效果为图像制作动画,还是使用光线追踪加速在 Blender 中借助参考图像构建 3D 场景,亦或是使用 Optix 进行 AI 降噪。

云端 ACE 让 NPC 栩栩如生

混合式 AI 还通过 NVIDIA ACE 实现了交互式 PC 游戏的新高度,让游戏开发者和数字创作者能够将先进的生成式 AI 模型集成到 RTX AI PC 上的数字虚拟形象中。

NVIDIA ACE NIM 由 AI 神经网络提供支持,让开发人员和设计师创建能够理解并响应人类玩家文本和语音的非玩家角色(NPC)。NVIDIA ACE NIM 可利用 AI 模型(包括语音转文本模型)来处理人类语音输入,以便 NPC 实时生成回应。

在这些新技术的加持下,NPC 的回应将不再受限于预定义的脚本。ACE NIM 既可以在 RTX GPU 设备上本地运行,也可以部署在云端,基于各种计算选项实现动态、逼真的交互。

可灵活部署的混合式开发者工具

混合式 AI 还可以帮助开发者构建和调整新的 AI 模型。NVIDIA AI Workbench 可帮助开发者在 RTX GPU 上快速创建、测试和定制预训练生成式 AI 模型和 LLM。数据科学家和开发者可通过 NVIDIA AI Workbench 简化对 Hugging Face、GitHub 和 NVIDIA NGC 等热门仓库的访问,并且能够通过简化的用户界面轻松地复现、协作和迁移项目。

当有额外的性能需求时,项目还可轻松扩展至数据中心(无论是公有云还是 NVIDIA DGX Cloud),之后部署到 PC 或工作站上的本地 RTX 系统进行推理和轻量定制。数据科学家和开发者可以利用预先构建的 Workbench 项目,使用检索增强生成(RAG)与文档交互,使用微调功能自定义 LLM,通过流畅的 CPU 到 GPU 转换加速数据科学工作负载等等。

混合式 RAG Workbench 项目提供可自定义的 RAG 应用,以便开发者自主运行和调整。他们可以在本地对文档进行向量化,并在本地 RTX 系统或托管在 NVIDIA API Catalog 上的接入点运行推理,或使用 NVIDIA NIM 微服务。开发者可以调整混合式 RAG Workbench 项目,以便使用各种模型、接入点和容器。他们还可以通过该项目量化要在所选 GPU 上运行的模型。

NVIDIA GPU 可在 NVIDIA GeForce RTX PC 和 RTX 工作站本地以及云端为各种出色的 AI 解决方案提供支持。借助不断发展的混合式 AI 工作流,创作者、游戏玩家和开发者可以充分发挥本地和云端的强大能力。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    4838

    浏览量

    102683
  • 云计算
    +关注

    关注

    39

    文章

    7694

    浏览量

    137064
  • AI
    AI
    +关注

    关注

    87

    文章

    29611

    浏览量

    267906

原文标题:解码 NVIDIA RTX AI PC 和工作站如何协同云计算来强效助力生成式 AI

文章出处:【微信号:NVIDIA_China,微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    全新NVIDIA AI工作流可检测信用卡欺诈交易

    工作流由 AWS 上 的 NVIDIA AI 平台驱动,可帮助金融服务机构节省资金并降低风险。
    的头像 发表于 10-30 11:41 316次阅读

    混合式步进电机的结构和驱动是什么?混合式步进电机的主要优势是什么?

    混合式步进电机是一种将永磁式和反应式步进电机的优点结合起来的电机类型。它具有较高的输出力矩和较高的步距精度,因此在许多应用中得到了广泛的应用。 一、混合式步进电机的结构 混合式步进电机主要由以下几个
    的头像 发表于 10-22 13:53 128次阅读

    混合式步进电机的主要应用原理是什么?

    市场上占据了重要地位。 2. 混合式步进电机的结构 混合式步进电机的结构主要包括定子和转子两部分。定子由多个绕组组成,这些绕组按照特定的方式排列,以产生旋转磁场。转子则由永磁材料和软磁材料组成,永磁材料提供了磁场的初始
    的头像 发表于 10-22 13:52 130次阅读

    什么是混合式步进电机?举例分析

    在工业自动化和精密控制领域,步进电机因其精确的步进控制和易于实现的开环控制而广受欢迎。步进电机主要分为两大类:永磁式步进电机和反应式步进电机。然而,随着技术的发展,一种新型的步进电机——混合式步进
    的头像 发表于 10-22 13:48 118次阅读

    NVIDIA Studio技术如何改善创意工作流

    Wondershare Filmora 是一个具有多种 AI 工具的视频编辑应用。现在,该应用与 Blackmagic Design 的DaVinci Resolve、Cyberlink PowerDirector 等编辑软件一样,支持
    的头像 发表于 07-26 11:20 529次阅读

    什么是混合式步进电机?它有哪些特点?

    展现出强大的应用价值。本文将对混合式步进电机的定义、特点、工作原理以及应用进行详细介绍,以期读者提供全面而深入的了解。
    的头像 发表于 06-06 15:54 807次阅读

    NVIDIA 通过 Holoscan NVIDIA IGX 提供企业软件支持

    Enterprise-IGX软件现已在NVIDIA IGX平台上正式可用,以满足工业边缘对实时 AI 计算日益增长的需求。它们将共同帮助医疗、工业和科学计算领域的解决方案提供商利用企业级软件和
    的头像 发表于 06-04 10:21 440次阅读

    MathWorks与NVIDIA携手革新医疗技术工作流

    在医疗科技领域,软件定义工作流正迎来新的突破。全球知名的数学计算软件巨头MathWorks与图形处理器领导者NVIDIA近日宣布达成深度合作,将MATLAB®软件成功集成至NVIDIA的Holoscan平台。
    的头像 发表于 05-11 10:17 324次阅读

    全新NVIDIA RTX A400和A1000 GPU全面加强AI设计与生产力工作流

    两款 NVIDIA Ampere 架构 GPU 工作站带来实时光线追踪功能和生成式 AI 工具支持
    的头像 发表于 04-18 10:29 429次阅读

    NVIDIA发布Omniverse Cloud API,众多工业数字孪生软件工具提供助力

    Omniverse Cloud API 使开发者能够将 Omniverse 技术集成到其设计与仿真工具工作流中。   美国加利福尼亚州圣何塞 —— GTC —— 太平洋时间 2024 年 3 月 18 日
    发表于 03-19 09:40 387次阅读
    <b class='flag-5'>NVIDIA</b>发布Omniverse Cloud API,<b class='flag-5'>为</b>众多工业数字孪生软件<b class='flag-5'>工具</b><b class='flag-5'>提供</b>助力

    利用OpenVINO实现混合式AI部署:迈向无所不在的人工智能

    随着人工智能技术的飞速发展,AI的应用已经渗透到日常生活的各个方面。为了更有效地利用AI技术混合式AI
    的头像 发表于 03-18 15:10 647次阅读
    利用OpenVINO实现<b class='flag-5'>混合式</b><b class='flag-5'>AI</b>部署:迈向无所不在的人工智能

    混合式 FTTA-PTTA 光缆优势有哪些?-赫联电子

    能减少安装流程步骤,还可以使发射塔的空间最大化。   Molex(莫仕) 的混合式光缆组件提供多种加固的功能,包括密封式分支端、紫外线处理光缆以及铠装混合光缆,可以耐受苛刻的天气条件并防止潜在的干扰
    发表于 03-06 16:55

    混合式步进电机的结构图

    混合式步进电机(Hybrid Stepper Motor)结合了永磁式和变极式步进电机的特点,以实现高性能和高可靠性。 合式步进电机融合了可变磁阻(VR)型步进电机和永磁(PM)型步进电机的优势,以
    的头像 发表于 02-06 10:01 835次阅读
    <b class='flag-5'>混合式</b>步进电机的结构图

    NVIDIA 知乎精彩问答甄选 | 探索 AI 如何推动工作流升级相关精彩问答

    NVIDIA 带来知乎精彩问答甄选系列,将为您精选知乎上有关 NVIDIA 产品的精彩问答。 本期问答甄选第十九期 —— 探索 AI 如何推动工作
    的头像 发表于 12-14 16:10 350次阅读
    <b class='flag-5'>NVIDIA</b> 知乎精彩问答甄选 | 探索 <b class='flag-5'>AI</b> 如何推动<b class='flag-5'>工作流</b>升级相关精彩问答

    Dropbox 与 NVIDIA 携手数百万客户带来个性化的生成式 AI

    丰富的 AI 功能,以提高搜索的准确性、提供更好的组织结构,并简化客户在云内容中的工作流。 Dropbox 计划使用由 NVIDIA AI
    的头像 发表于 11-20 20:55 503次阅读
    Dropbox 与 <b class='flag-5'>NVIDIA</b> 携手<b class='flag-5'>为</b>数百万客户带来个性化的生成式 <b class='flag-5'>AI</b>