0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA 为 1 亿台 Windows RTX PC 和工作站提供全新生成式 AI 功能与突破性性能

NVIDIA英伟达 来源:未知 2023-05-31 03:50 次阅读

搭载 Tensor Core 的 NVIDIA RTX GPU 正在加速生成式 AI 模型的开发与部署;即将推出的 Max-Q 低功耗 AI 推理将提高能效比。

生成式 AI 正在迅速开创一个计算的新时代,为生产力、内容创作、游戏等多领域带来了变革。NVIDIA NeMo 和 DLSS 3 帧生成技术、Meta LLaMa、ChatGPT、Adobe Firefly、Stable Diffusion 等生成式 AI 模型和应用能够使用神经网络来识别现有数据中的模式和结构,以此生成新的原创内容。

专为 GeForce RTX 和 NVIDIA RTX GPU 优化的生成式 AI 模型具有高达 1,400 Tensor TFLOP 的 AI 推理性能,运行速度比同类其他设备快 5 倍。这要得益于 RTX GPU 中用于加速 AI 计算的专用硬件 Tensor Cores以及常规的软件改进。上周在 Microsoft Build 大会上发布的增强功能等软件方面的改进使得像 Stable Diffusion 这样充分利用新的 DirectML 优化功能的生成式 AI 模型性能翻倍。

随着越来越多的 AI 推理在本地设备上运行,PC 将需要强大而高效的硬件以支持这些复杂的任务。为了满足这一需求,RTX GPU 将添加用于 AI 工作负载的 Max-Q 低功耗推理。在执行轻量级的推理任务时,GPU 将以极低的功耗运行,而在运行繁重负载如生成式 AI 工作时,则可升至极高的性能水平。

为了创建新的 AI 应用,在 Windows 11 上运行的整个 RTX 加速 AI 开发堆栈现已向开发者开放,使 AI 模型的开发、训练和部署变得更容易。开发者首先会通过Windows Subsystem for Linux(WSL)上经过优化的深度学习框架开发和微调模型。

然后开发者可以无缝上云并在各个主要云服务商(CSP)提供的相同 NVIDIA AI 堆栈上进行训练。接下来,开发者使用全新 Microsoft Olive 等工具优化训练好的模型以实现快速推理,最后面向专为 AI 优化的系统的 1 亿多 RTX PC 和工作站部署 AI 应用和功能。

微软 Windows 芯片和系统集成副总裁 Pavan Davuluri 表示:“未来几年,AI 将成为推动 Windows 客户创新的最大驱动力。我们正在与 NVIDIA 开展软硬件优化方面的合作,以此为开发者提供变革性的、高性能的、易于部署的体验。”

迄今为止,超过 400 款已发布的应用和游戏由 RTX AI 提供加速,该阵容还在持续壮大中。

在拉开了 Computex 2023 序幕的主题演讲中,NVIDIA 创始人兼首席执行官黄仁勋介绍了用于游戏开发的新生成式 AI——NVIDIA ACE 游戏开发版(NVIDIA Avatar Cloud Engine (ACE) for Games)。

通过 AI 驱动的自然语言互动,这项自定义 AI 模型代工服务使游戏中的非玩家角色(NPC)更加智能,从而彻底改变游戏体验。中间件、工具和游戏开发者可以使用 “ACE 游戏开发版(ACE for Games)” 在他们的软件和游戏中建立并部署定制化的语音、对话和动画 AI 模型。

在 RTX 上运行的生成式 AI 无处不在

从服务器到云,再到设备,在 RTX GPU 上运行的生成式 AI 无处不在。NVIDIA 的加速 AI 计算具有低时延、全栈式的特点。多年来,我们一直在优化 AI 软硬件架构的各个部分,包括 RTX GPU 上的专用 AI 硬件——第四代 Tensor Core。

通过对驱动的定期优化,能够确保峰值性能。最新 NVIDIA 驱动在与经 Olive 优化的模型和 DirectML 更新结合后,能够在 Windows 11 上大幅提升开发者的速度。例如在 Stable Diffusion 中,使用 DirectML 优化路径的开发者将干扰时间缩短了两倍。

借助基于 NVIDIA Ada Lovelace 架构打造的最新一代 RTX 笔记本电脑和移动工作站,用户可以在任何地方运行生成式 AI。新一代移动平台的外形尺寸只有 14 英寸,重量仅为 3 磅左右,将性能和便携性提升至新高。戴尔、惠普、联想、华硕等制造商正在 RTX GPU 和 Tensor Cores 的支持下,推动生成式 AI 时代的发展。

  • “随着各个行业继续部署 AI,预计到 2030 年,AI 需求的年增长率将超过 37%,企业和消费者将越来越需要合适的技术以实现 AI 的开发和落地,比如生成式 AI 等。多年来,联想一直致力于开发适用于 AI 工作负载的产品和解决方案,进而助力扩展生成式 AI 的应用范围——从设备到服务器、再到云。联想 ThinkPad、ThinkStation、ThinkBook、Yoga、Legion 和 LOQ 等搭载 NVIDIA RTX GPU 的 PC 正在推动生成式 AI 的变革浪潮,在节省时间、创作内容、完成工作和游戏等方面提供更好的用户体验。”

    ——联想副总裁兼 PC 业务和智能设备首席技术官 Daryl Cromer

  • “生成式 AI 是一项革命性的技术,同时也是促进各个行业未来创新的催化剂。惠普与 NVIDIA 共同为开发者提供卓越的性能、移动性以及运行当前加速 AI 模型所需的可靠性,推动全新生成式 AI 时代的发展。”

    ——惠普高级副总裁兼 Z 系列总经理 Jim Nottingham

  • “我们近期与 NVIDIA 围绕 Project Helix 的合作重点是助力企业更轻松地在本地构建和部署值得信赖的生成式 AI。在这个历史性时刻,我们进一步将生成式 AI 引入 PC 。想象一下,应用开发者能够在完善神经网络算法的同时,在本地控制训练数据和 IP。正是为了实现这个目标,我们设计了搭载 NVIDIA RTX GPU 的强大、可扩展 Precision 工作站。作为工作站领域的全球领导者,戴尔在帮助用户安全加速从边缘到数据中心的 AI 应用方面具有独特的优势。”

    ——戴尔科技客户产品部总裁 Ed Ward

  • “生成式 AI 的时代正在到来,因此需要强大的处理能力和经过全面优化的软硬件。借助 NVIDIA AI 平台,包括现在已经预装到我们许多产品上的 NVIDIA Omniverse,我们十分高兴能看到 AI 的变革在华硕和 ROG 笔记本电脑上持续不断地推动着。”

    ——华硕全球消费业务市场总监 Galip Fu

很快,搭载 RTX GPU 的笔记本电脑和移动工作站就将做到“两全其美”。纯 AI 推理工作负载将根据 Tensor Core 的性能进行优化,同时尽可能降低 GPU 的功耗,延长电池续航时间,并保持系统拥有出色的散热和降噪表现。GPU 还可根据工作负载的需要,动态提升至最高 AI 性能。

开发者可以访问面向加速应用开发者的 NVIDIA AI 网页(访问地址:https://developer.nvidia.cn/ai-for-creative-applications),了解如何对应用进行端到端优化,以充分利用 GPU 加速。

点击 “阅读原文”,或扫描下方海报二维码观看 NVIDIA 创始人兼 CEO 黄仁勋为 COMPUTEX 2023 带来的主题演讲直播回放,了解AI、图形及其他领域的最新进展!


原文标题:NVIDIA 为 1 亿台 Windows RTX PC 和工作站提供全新生成式 AI 功能与突破性性能

文章出处:【微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英伟达
    +关注

    关注

    22

    文章

    3707

    浏览量

    90597

原文标题:NVIDIA 为 1 亿台 Windows RTX PC 和工作站提供全新生成式 AI 功能与突破性性能

文章出处:【微信号:NVIDIA_China,微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    NVIDIA AI助力SAP生成AI助手Joule加速发展

    在美国佛罗里达州奥兰多举行的 SAP Sapphire 大会上,NVIDIA 与这家企业软件公司公布了搭载NVIDIA AI Enterprise软件的生成
    的头像 发表于 09-09 09:37 345次阅读

    NVIDIA RTX AI套件简化AI驱动的应用开发

    NVIDIA 于近日发布 NVIDIA RTX AI套件,这一工具和 SDK 集合能够帮助 Windows 应用开发者定制、优化和部署适用于
    的头像 发表于 09-06 14:45 352次阅读

    空间受限的应用提供突破性的动力

    电子发烧友网站提供空间受限的应用提供突破性的动力.pdf》资料免费下载
    发表于 08-26 14:28 0次下载
    <b class='flag-5'>为</b>空间受限的应用<b class='flag-5'>提供</b><b class='flag-5'>突破性</b>的动力

    RTX AI PC工作站提供强大AI性能

    NVIDIA RTX 和 GeForce RTX 技术驱动的 AI PC 时代已经到来。在这一背景下,一种评估
    的头像 发表于 08-23 16:57 574次阅读

    宁畅推出首款专业级AI桌面工作站W350 G50

    宁畅近日推出了其首款专业级AI桌面工作站W350 G50,此举标志着智算中心的概念已延伸至桌面端。这款工作站集成了NVIDIA RTX™ A
    的头像 发表于 06-06 09:25 637次阅读

    NVIDIA推出用于支持在全新GeForce RTX AI笔记本电脑上运行的AI助手及数字人

    》中。NVIDIA 还发布专为 NVIDIA ACE 数字人平台打造的首个基于 PCNVIDIA NIM 推理微服务。 这些技术由 NVIDI
    的头像 发表于 06-04 10:19 643次阅读

    NVIDIA宣布全面推出 NVIDIA ACE 生成 AI 微服务

    采用 NVIDIA 宣布全面推出 NVIDIA ACE 生成 AI 微服务,以加速新一代数字人的发展,并将在平台上推出
    的头像 发表于 06-04 10:18 586次阅读

    NVIDIA发布数字人微服务,制作生成AI数字化身铺平未来之路

        COMPUTEX—2024年6月2日— NVIDIA宣布全面推出NVIDIA ACE生成AI微服务,以加速新一代数字人的发展,并
    发表于 06-03 17:43 166次阅读

    NVIDIA推出两款基于NVIDIA Ampere架构的全新台式机GPU

    两款 NVIDIA Ampere 架构 GPU 工作站带来实时光线追踪功能生成
    的头像 发表于 04-26 11:25 538次阅读

    全新NVIDIA RTX A400和A1000 GPU全面加强AI设计与生产力工作

    两款 NVIDIA Ampere 架构 GPU 工作站带来实时光线追踪功能生成
    的头像 发表于 04-18 10:29 428次阅读

    NVIDIA Edify视觉内容提供商带来3D生成AI全新图像控件

    用于视觉生成 AI 的多模态架构 NVIDIA Edify 正在迈入全新维度。
    的头像 发表于 03-26 09:49 635次阅读

    NVIDIA展示游戏、创作、生成AI和机器人领域的创新成果

    NVIDIA CES 2024 特别演讲亮点 - 全新 GeForce RTX 40 SUPER GPU,RTX AI 笔记本电脑,
    的头像 发表于 01-09 09:22 449次阅读

    Dropbox 与 NVIDIA 携手数百万客户带来个性化的生成 AI

    NVIDIA 于 17 日宣布开展合作。双方将借助 AI 的力量数百万 Dropbox 客户增强其知识工作,并提高生产力。 此次合作将通过新的个性化
    的头像 发表于 11-20 20:55 503次阅读
    Dropbox 与 <b class='flag-5'>NVIDIA</b> 携手<b class='flag-5'>为</b>数百万客户带来个性化的<b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b>

    点亮未来:TensorRT-LLM 更新加速 AI 推理性能,支持在 RTX 驱动的 Windows PC 上运行新模型

    Windows PC工作站提高生产力带来前所未有的机会。NVIDIA RTX 技术使开发者更轻松地创建
    的头像 发表于 11-16 21:15 630次阅读
    点亮未来:TensorRT-LLM 更新加速 <b class='flag-5'>AI</b> 推理<b class='flag-5'>性能</b>,支持在 <b class='flag-5'>RTX</b> 驱动的 <b class='flag-5'>Windows</b> <b class='flag-5'>PC</b> 上运行新模型

    利用 NVIDIA Jetson 实现生成 AI

    交互速率运行的 Llama-2-70B 模型。 图 1. 领先的生成 AI 模型在  Jetson AGX Orin 上的推理性能 如要在
    的头像 发表于 11-07 21:25 879次阅读
    利用 <b class='flag-5'>NVIDIA</b> Jetson 实现<b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b>