0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

基于NVIDIA Ampere的EC2 G5实例提升性能

星星科技指导员 来源:NVIDIA 作者:Uttara Kumar 2022-04-08 16:39 次阅读

AWS 宣布 推出了由 NVIDIA A10G Tensor Core GPU 驱动的新型 Amazon EC2 G5 实例。这些实例设计用于要求最苛刻的图形密集型应用程序,以及 AWS 云上的机器学习推理和训练简单到中等复杂的机器学习模型。

新的 EC2 G5 实例具有多达八个 NVIDIA A10G Tensor Core GPU ,它们针对高级可视化计算工作负载进行了优化。由于支持 NVIDIA RTX 技术和比 AWS 上任何其他 NVIDIA GPU 实例都多的 RT (光线跟踪)内核,它提供了高达 3 倍的图形性能。与上一代 Amazon EC2 G4dn 实例相比,基于 NVIDIA Ampere 体系结构的 G5 实例在机器学习推理方面的性能提高了 3 倍,在机器学习培训方面的性能提高了 3.3 倍。

客户可以使用 G5 实例加速广泛的图形应用程序,如交互式视频渲染、视频编辑、计算机辅助设计、真实感模拟、三维可视化和游戏。 G5 实例还为内容和产品推荐、语音助手、聊天机器人和视觉搜索等用例提供了最佳的实时 AI 推理性能用户体验。

使用 NVIDIA 优化软件充分利用 EC2 G5 实例

为了在新 G5 实例上实现突破性的图形性能,创意和技术专业人员可以使用 NVIDIA RTX Virtual Workstation (vWS) 软件,该软件可从 AWS 市场获得。这些 NVIDIA RTX vWS 改进仅可从 NVIDIA 获得,包括数百个经认证的专业 ISV 应用程序、对所有领先渲染应用程序的支持,以及对所有主要游戏内容的优化。

NVIDIA RTX 技术提供了光线跟踪和 AI 去噪等卓越功能。创意专业人士可以通过精确的阴影、反射和折射,以前所未有的速度创造出令人惊叹的内容,从而实现照片级真实感。

NVIDIA RTX vWS 还支持深度学习超级采样( DLSS )。这给了设计师、工程师和艺术家人工智能的力量,可以在任何地方产生最高的视觉质量。他们还可以利用 NVIDIA Iray 和 NVIDIA OptiX 等技术实现卓越的渲染功能。

AWS 上的开发人员很快就可以使用 AWS 市场 GPU-optimized deep learning frameworks , SDKs , 和端到端的应用程序框架 NGC Catalog 上最先进的预训练人工智能模型 NVIDIA TensorRT 和 NVIDIA Triton Inference Server 优化推理性能,并使用 G5 实例 。 大规模提供 ML 模型

开发者有多种选择来利用 AWS 上的 NVIDIA 优化软件。无论您是自己调配和管理 G5 实例,还是在 AWS 托管服务中利用它们,如 Amazon 弹性 Kubernetes 服务( EKS )或 Amazon 弹性容器服务( ECS )。

关于作者

Uttara Kumar 是 NVIDIA 的高级产品营销经理,专注于 GPU - 云计算中的人工智能加速应用。她非常关心让每个人都能获得技术的民主化,让开发者能够利用 NVIDIA 数据中心平台的力量来加快创新步伐。在 NVIDIA 之前,她领导半导体和科学计算软件公司的软件产品营销。她拥有安娜堡密歇根大学的 Eel CTR 工程硕士学位。

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    4940

    浏览量

    102820
  • 数据中心
    +关注

    关注

    16

    文章

    4693

    浏览量

    71958
  • 机器学习
    +关注

    关注

    66

    文章

    8378

    浏览量

    132425
收藏 人收藏

    评论

    相关推荐

    新品 | CoolSiC™肖特基二极管G5系列10-80A 2000V

    新品CoolSiC肖特基二极管G5系列10-80A2000VCoolSiC肖特基二极管2000VG5系列在高达1500VDC的高直流母线系统中实现了更高的效率和设计简化。由于采用了.XT互联技术,该
    的头像 发表于 11-01 08:06 102次阅读
    新品 | CoolSiC™肖特基二极管<b class='flag-5'>G5</b>系列10-80A 2000V

    英飞凌推出CoolSi肖特基二极管2000V G5

    在当今快速发展的工业应用中,追求更低功率损耗与更高功率水平已成为行业共识。为了满足这一迫切需求,全球功率系统和物联网领域的领军企业英飞凌科技股份公司(FSE代码:IFX/OTCQX代码:IFNNY)近日推出了革命性的CoolSiC™肖特基二极管2000V G5
    的头像 发表于 10-29 11:34 266次阅读

    亚马逊云科技宣布Amazon EC2 P5e实例正式可用 由英伟达H200 GPU提供支持

    现已正式可用。亚马逊云科技是首个将英伟达H200 GPU用于生产环境的领先云提供商。与基于英伟达H100 GPU的Amazon EC2 P5实例相比,Amazon EC2 P
    的头像 发表于 09-19 16:16 422次阅读

    今日看点丨谷歌明年将把Tensor G5生产转移到台积电;京东方推出新型OLED面板原型

    1. 传三星3 纳米良率20% 谷歌明年将把Tensor G5 生产转移到台积电   据业内人士9月13日透露,谷歌明年将移动应用处理器的生产从三星电子转向台积电的可能性越来越大。明年发布的谷歌
    发表于 09-14 11:10 451次阅读

    谷歌Tensor G5芯片转投台积电3nm与InFO封装

    近日,业界传出重大消息,谷歌手机的自研芯片Tensor G5计划转投台积电的3nm制程,并引入台积电先进的InFO封装技术。这一决策预示着谷歌将在智能手机领域进一步提升竞争力,尤其是针对高端人工智能(AI)手机市场。
    的头像 发表于 08-06 09:20 544次阅读

    亚马逊云科技宣布基于自研Amazon Graviton4的Amazon EC2 R8g实例正式可用

    ) R8g实例现已正式可用。Amazon EC2 R8g实例与基于Amazon Graviton3的实例
    的头像 发表于 07-15 16:09 349次阅读

    谷歌Tensor G5芯片进入流片阶段

    近日,科技巨头Google宣布其自主研发的Tensor G5芯片已成功迈入Tape-out(流片)阶段,这标志着即将应用于Pixel 10系列智能手机的全新芯片已接近量产。Tensor G5不仅是Google首款完全摆脱外部平台依赖、实现完全自主设计的手机处理器,更是公司
    的头像 发表于 07-02 09:45 506次阅读

    谷歌Tensor G5处理器将由台积电生产

    近日,关于谷歌新一代智能手机Pixel 10系列将搭载自研处理器Tensor G5的传闻得到了进一步证实。据外媒报道,谷歌Tensor G5处理器的样品运输清单已被曝光,尽管清单中并未直接提及“Tensor G5”字样,但据外媒
    的头像 发表于 05-29 11:03 536次阅读

    谷歌Tensor G5芯片亮相:台积电生产,将用于Pixel 10系列手机

    尽管关于谷歌选用台积电代工的猜测不断,但此前一直未获确切证实。Android Authority从一份内部文件获悉,谷歌已正式选定台积电,由后者负责生产Tensor G5
    的头像 发表于 05-27 16:11 541次阅读

    谷歌Pixel 10系列手机配备Tensor G5定制芯片,将迎来显著升级

    据悉,在 Google Pixel 9 系列尚未正式发布之际,Android Authority已揭晓了其后续产品 Google Pixel 10 的关键规格参数,其中包括采用谷歌与台积电联手打造的“首款完全定制”Tensor G5芯片。
    的头像 发表于 05-27 16:02 656次阅读

    NVIDIA推出两款基于NVIDIA Ampere架构的全新台式机GPU

    两款 NVIDIA Ampere 架构 GPU 为工作站带来实时光线追踪功能和生成式 AI 工具支持。
    的头像 发表于 04-26 11:25 588次阅读

    中兴预热全球首款AI 5G FWA旗舰G5 Ultra

    在即将召开的MWC 2024世界移动通信大会上,中兴G5 Ultra将作为新一代5G FWA旗舰产品首次亮相。
    的头像 发表于 04-08 15:05 1710次阅读

    利用NVIDIA产品技术组合提升用户体验

    UTalk-Doc 将用户指令识别服务吞吐量提升5 倍,单个请求响应时间缩减了三分之一,大幅提升服务运行效率,提升资源利用率。Triton 模型分析能力还协助必优科技,将寻找最佳
    的头像 发表于 01-17 09:30 656次阅读

    亚马逊推出Graviton4处理器及AI量子芯片Trainium2

    据介绍, Graviton4比前代性能提升 30%,内核数增加 50%,内存带宽增加 75%,可以帮助 Amazon EC2 云服务的各类工作负载提供最佳性价比和能效。这款处理器还对所有高速物理硬件接口加密来提高安全性。
    的头像 发表于 11-30 17:43 948次阅读

    亚马逊云科技与 NVIDIA 宣布开展战略合作,为生成式 AI 提供全新超级计算基础架构、软件和服务

    计算机,用于 NVIDIA AI 研发和自定义模型开发。 搭载 NVIDIA GH200、H200、L40S 和 L4 GPU的全新亚马逊 EC2 实例为生成式 AI、高
    的头像 发表于 11-29 21:00 614次阅读
    亚马逊云科技与 <b class='flag-5'>NVIDIA</b> 宣布开展战略合作,为生成式 AI 提供全新超级计算基础架构、软件和服务