0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA为Windows RTX工作站提供全新生成式AI功能与突破性性能

丽台科技 来源:NVIDIA英伟达企业解决方案 2023-06-07 14:55 次阅读

搭载 Tensor Core 的 NVIDIA RTX GPU 正在加速生成式 AI 模型的开发与部署;即将推出的 Max-Q 低功耗 AI 推理将提高能效比。

生成式 AI 正在迅速开创一个计算的新时代,为生产力、内容创作、游戏等多领域带来了变革。NVIDIA NeMo 和 DLSS 3 帧生成技术、Meta LLaMa、ChatGPT、Adobe Firefly、Stable Diffusion 等生成式 AI 模型和应用能够使用神经网络来识别现有数据中的模式和结构,以此生成新的原创内容。

专为 NVIDIA RTX GPU 优化的生成式 AI 模型具有高达 1,400 Tensor TFLOP 的 AI 推理性能,运行速度比同类其他设备快 5 倍。这要得益于 RTX GPU 中用于加速 AI 计算的专用硬件 Tensor Cores,以及常规的软件改进。上周在 Microsoft Build 大会上发布的增强功能等软件方面的改进使得像 Stable Diffusion 这样充分利用新的 DirectML 优化功能的生成式 AI 模型性能翻倍。

4ca5db58-04fe-11ee-90ce-dac502259ad0.jpg

随着越来越多的 AI 推理在本地设备上运行,工作站将需要强大而高效的硬件以支持这些复杂的任务。为了满足这一需求,RTX GPU 将添加用于 AI 工作负载的 Max-Q 低功耗推理。在执行轻量级的推理任务时,GPU 将以极低的功耗运行,而在运行繁重负载如生成式 AI 工作时,则可升至极高的性能水平。

为了创建新的 AI 应用,在 Windows 11 上运行的整个 RTX 加速 AI 开发堆栈现已向开发者开放,使 AI 模型的开发、训练和部署变得更容易。开发者首先会通过Windows Subsystem for Linux(WSL)上经过优化的深度学习框架开发和微调模型。

然后开发者可以无缝上云并在各个主要云服务商(CSP)提供的相同NVIDIA AI 堆栈上进行训练。接下来,开发者使用全新Microsoft Olive等工具优化训练好的模型以实现快速推理,最后面向专为 AI 优化的系统的 RTX 工作站部署 AI 应用和功能。

微软 Windows 芯片和系统集成副总裁 Pavan Davuluri 表示:“未来几年,AI 将成为推动 Windows 客户创新的最大驱动力。我们正在与 NVIDIA 开展软硬件优化方面的合作,以此为开发者提供变革性的、高性能的、易于部署的体验。”

迄今为止,超过 400 款已发布的应用和游戏由 RTX AI 提供加速,该阵容还在持续壮大中。

在拉开了 Computex 2023 序幕的主题演讲中,NVIDIA 创始人兼首席执行官黄仁勋介绍了用于游戏开发的新生成式 AI——NVIDIA ACE 游戏开发版(NVIDIA Avatar Cloud Engine (ACE) for Games)。

通过 AI 驱动的自然语言互动,这项自定义 AI 模型代工服务使游戏中的非玩家角色(NPC)更加智能,从而彻底改变游戏体验。中间件、工具和游戏开发者可以使用 “ACE 游戏开发版(ACE for Games)” 在他们的软件和游戏中建立并部署定制化的语音、对话和动画 AI 模型。

在 RTX 上运行的生成式 AI 无处不在

从服务器到云,再到设备,在 RTX GPU 上运行的生成式 AI 无处不在。NVIDIA 的加速 AI 计算具有低时延、全栈式的特点。多年来,我们一直在优化 AI 软硬件架构的各个部分,包括 RTX GPU 上的专用 AI 硬件——第四代 Tensor Core。

通过对驱动的定期优化,能够确保峰值性能。最新 NVIDIA 驱动在与经 Olive 优化的模型和 DirectML 更新结合后,能够在 Windows 11 上大幅提升开发者的速度。例如在 Stable Diffusion 中,使用 DirectML 优化路径的开发者将干扰时间缩短了两倍。

很快,搭载 RTX GPU 的移动工作站就将做到“两全其美”。纯 AI 推理工作负载将根据 Tensor Core 的性能进行优化,同时尽可能降低 GPU 的功耗,延长电池续航时间,并保持系统拥有出色的散热和降噪表现。GPU 还可根据工作负载的需要,动态提升至最高 AI 性能。

NVIDIA RTX技术是 NVIDIA 在计算机图形领域的重要先进技术之一,可引领新一代应用以超快的速度模拟物理世界。借助 AI、光线追踪和模拟方面的最新增强功能,RTX 技术以远胜以往的速度实现了令人难以置信的 3D 设计、逼真的模拟和惊人的视觉效果。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 神经网络
    +关注

    关注

    42

    文章

    4732

    浏览量

    100373
  • NVIDIA
    +关注

    关注

    14

    文章

    4838

    浏览量

    102683
  • AI
    AI
    +关注

    关注

    87

    文章

    29611

    浏览量

    267905
  • 生成式AI
    +关注

    关注

    0

    文章

    476

    浏览量

    443

原文标题:NVIDIA 为 Windows RTX 工作站提供全新生成式 AI 功能与突破性性能

文章出处:【微信号:Leadtek,微信公众号:丽台科技】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    NVIDIA AI助力SAP生成AI助手Joule加速发展

    在美国佛罗里达州奥兰多举行的 SAP Sapphire 大会上,NVIDIA 与这家企业软件公司公布了搭载NVIDIA AI Enterprise软件的生成
    的头像 发表于 09-09 09:37 345次阅读

    NVIDIA RTX AI套件简化AI驱动的应用开发

    NVIDIA 于近日发布 NVIDIA RTX AI套件,这一工具和 SDK 集合能够帮助 Windows 应用开发者定制、优化和部署适用于
    的头像 发表于 09-06 14:45 352次阅读

    空间受限的应用提供突破性的动力

    电子发烧友网站提供空间受限的应用提供突破性的动力.pdf》资料免费下载
    发表于 08-26 14:28 0次下载
    <b class='flag-5'>为</b>空间受限的应用<b class='flag-5'>提供</b><b class='flag-5'>突破性</b>的动力

    RTX AI PC和工作站提供强大AI性能

    NVIDIA RTX 和 GeForce RTX 技术驱动的 AI PC 时代已经到来。在这一背景下,一种评估 AI 加速
    的头像 发表于 08-23 16:57 574次阅读

    宁畅推出首款专业级AI桌面工作站W350 G50

    宁畅近日推出了其首款专业级AI桌面工作站W350 G50,此举标志着智算中心的概念已延伸至桌面端。这款工作站集成了NVIDIA RTX™ A
    的头像 发表于 06-06 09:25 637次阅读

    NVIDIA推出用于支持在全新GeForce RTX AI笔记本电脑上运行的AI助手及数字人

    NVIDIA 宣布推出全新 NVIDIA RTX 技术,用于支持在全新 GeForce RTX
    的头像 发表于 06-04 10:19 643次阅读

    NVIDIA宣布全面推出 NVIDIA ACE 生成 AI 微服务

    采用 NVIDIA 宣布全面推出 NVIDIA ACE 生成 AI 微服务,以加速新一代数字人的发展,并将在平台上推出
    的头像 发表于 06-04 10:18 586次阅读

    NVIDIA发布数字人微服务,制作生成AI数字化身铺平未来之路

        COMPUTEX—2024年6月2日— NVIDIA宣布全面推出NVIDIA ACE生成AI微服务,以加速新一代数字人的发展,并
    发表于 06-03 17:43 166次阅读

    NVIDIA推出两款基于NVIDIA Ampere架构的全新台式机GPU

    两款 NVIDIA Ampere 架构 GPU 工作站带来实时光线追踪功能生成
    的头像 发表于 04-26 11:25 538次阅读

    全新NVIDIA RTX A400和A1000 GPU全面加强AI设计与生产力工作

    两款 NVIDIA Ampere 架构 GPU 工作站带来实时光线追踪功能生成
    的头像 发表于 04-18 10:29 429次阅读

    NVIDIA Edify视觉内容提供商带来3D生成AI全新图像控件

    用于视觉生成 AI 的多模态架构 NVIDIA Edify 正在迈入全新维度。
    的头像 发表于 03-26 09:49 636次阅读

    NVIDIA展示游戏、创作、生成AI和机器人领域的创新成果

    NVIDIA CES 2024 特别演讲亮点 - 全新 GeForce RTX 40 SUPER GPU,RTX AI 笔记本电脑,
    的头像 发表于 01-09 09:22 449次阅读

    Dropbox 与 NVIDIA 携手数百万客户带来个性化的生成 AI

    NVIDIA 于 17 日宣布开展合作。双方将借助 AI 的力量数百万 Dropbox 客户增强其知识工作,并提高生产力。 此次合作将通过新的个性化
    的头像 发表于 11-20 20:55 503次阅读
    Dropbox 与 <b class='flag-5'>NVIDIA</b> 携手<b class='flag-5'>为</b>数百万客户带来个性化的<b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b>

    点亮未来:TensorRT-LLM 更新加速 AI 推理性能,支持在 RTX 驱动的 Windows PC 上运行新模型

    Windows PC 和工作站提高生产力带来前所未有的机会。NVIDIA RTX 技术使开发者更轻松地创建 AI 应用,从而改变人们使
    的头像 发表于 11-16 21:15 630次阅读
    点亮未来:TensorRT-LLM 更新加速 <b class='flag-5'>AI</b> 推理<b class='flag-5'>性能</b>,支持在 <b class='flag-5'>RTX</b> 驱动的 <b class='flag-5'>Windows</b> PC 上运行新模型

    利用 NVIDIA Jetson 实现生成 AI

    交互速率运行的 Llama-2-70B 模型。 图 1. 领先的生成 AI 模型在  Jetson AGX Orin 上的推理性能 如要在 Jetson 上快速测试最新的模型和应用,
    的头像 发表于 11-07 21:25 879次阅读
    利用 <b class='flag-5'>NVIDIA</b> Jetson 实现<b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b>