0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

GTC23 | 节能提速:NVIDIA Grace CPU 为每个数据中心铺设节能计算快车道

NVIDIA英伟达企业解决方案 来源:未知 2023-03-25 09:10 次阅读

主流应用在运行微服务、分析、模拟等工作时的能耗相比 X86 减少了 2 倍。

各项结果都表明,一个节能计算的新时代正在到来。

在真实工作负载测试中,NVIDIA Grace CPU 超级芯片在相同的功率范围内运行主流数据中心 CPU 应用的性能比 X86 处理器提高了 2 倍,这将带来许多新的可能性。

这意味着数据中心可以处理两倍的峰值流量并减少多达一半的电费。它们还可以在空间有限的网络边缘实现更大的性能,甚至可以同时实现上述优势。

节能已成为数据中心的优先事项

数据中心经理需要依靠这些方案在当今这个节能时代中快速发展。

摩尔定律实际上已经过时。物理学不再允许工程师在保持空间和功耗不变的情况下加入更多的晶体管

这就是为什么新一代 X86 CPU 的性能提升相比前一代产品还不到 30%”,这也是为什么越来越多的数据中心设置了功率上限。

再加上全球气候变暖的威胁,数据中心电力供应已经没有增容的余地,但它们仍然需要满足不断增长的算力需求。

在保持功耗不变的情况下提高性能

麦肯锡的一项研究显示,美国的计算需求每年增长 10%,并将在 2022 至 2030 年的八年内翻倍。

麦肯锡表示:“因此,确保数据中心可持续性的压力很大,一些监管机构和政府正在对新建的数据中心推行可持续性标准。”

根据麦肯锡所引用的一项调查,随着摩尔定律的终结,数据中心在计算效率上的进展已停滞不前(见下图)。

57c06b50-caa9-11ed-bfe3-dac502259ad0.jpg

在当今的环境下,NVIDIA Grace 所实现的 2 倍提升等于实现了惊人的多代飞跃,符合当今数据中心高管的需求。

全球服务商 Equinix 管理着 240 多座数据中心。该公司的边缘基础设施负责人 Zac Smith 在一篇关于节能计算的文章中描述了这些需求。

“我们需要在减少碳排放的前提下提高性能。”Zac 表示:“我们有 1 万家客户指望我们在这个过程中提供帮助。他们需要更多的数据和更高的智能化水平,而且往往要求使用 AI。另外,他们希望以可持续的方式来实现这一目标。”

三项 CPU 创新

得益于三项创新,Grace CPU 提供了高效性能。

它在一块对分带宽(一项吞吐量指标)为 3.2 TB/s 的裸芯片中使用一种超快的结构将 72 个 Arm Neoverse V2 核心连接在一起,然后使用 NVIDIA NVLink-C2C 互连技术在一个超级芯片封装中连接其中的两块裸片,实现 900GB/s 的带宽。

最后,它是第一个使用服务器级 LPDDR5X 内存的数据中心 CPU。这帮助它在成本相仿的情况下增加了高达 50%的内存带宽,且功耗只有常规服务器内存的八分之一。紧凑的尺寸使其密度比典型的卡式内存设计增加了 2 倍。

57ca2af0-caa9-11ed-bfe3-dac502259ad0.jpg

与现有的 x86 CPU 相比,NVIDIA Grace 的设计更加简单,提供更高的带宽,而且能耗更低。

首批结果揭晓

现今,NVIDIA 工程师在 Grace 上运行了真实的数据中心工作负载。

他们发现,在相同的功率下,相比数据中心现有的 x86 CPU,Grace 更具优势:

  • 运行微服务的速度快 2.3 倍

  • 内存密集型数据处理性能快 2 倍

  • 在多个技术计算应用上运行流体力学计算工作时,速度快 1.9 倍

如下图所示,数据中心通常需要等到两代或两代以上的 CPU 才能获得以上优势。

57f6b6ce-caa9-11ed-bfe3-dac502259ad0.jpg

净提升(浅绿色)来自于服务器间的性能提升(深绿色)以及附加的 Grace 服务器。凭借节能性,Grace 服务器适用于这一 x86 功率范围(中间条)。

甚至在这些 CPU 工作结果出炉之前,用户就对 Grace 的创新做出了反应。

美国洛斯阿拉莫斯国家实验室在 5 月宣布将在 Venado 中使用 Grace。这台 10 EXAFLOP AI 超级计算机将推动该实验室在材料科学和可再生能源等领域的工作。同时,欧洲和亚洲的数据中心正在评估 Grace 的工作负载。

NVIDIA Grace 目前正在提供样品,将在下半年投入生产。华硕、Atos、技嘉、慧与、高通、超微、纬创和 ZT Systems 正在建造使用该产品的服务器。

深入了解可持续计算

想要深入了解细节,扫描二维码阅读关于 Grace 架构的白皮书

581b8044-caa9-11ed-bfe3-dac502259ad0.png    58310234-caa9-11ed-bfe3-dac502259ad0.gif  

3 月 24 日 下午 14:00-16:00,继续锁定 GTC23,加入在线观看(Watch Party) 派对,从黄仁勋与 OpenAI 创始人兼首席科学家高能对话中,看 AI 的现状和未来!

Watch Party 观看指南

会议开始前 15 分钟,

点击下方出现的“JOIN WATCH PARTY NOW"

进入 Teams 会议室观看

584cc4ba-caa9-11ed-bfe3-dac502259ad0.png

3 月 24 日 热门观看派对推荐 【炉边谈话:看 AI 的现状和未来】 会议时间:14:00 - 16:00 会议代码:【WP52092】点击下方链接解会议详情 GTC23 | 黄仁勋与 Ilya Sutskever 的炉边谈话重磅来袭!— 看 AI 的现状和未来 【通过 AI 职业生涯改变世界】 会议时间:19:30 - 21:30 会议代码:【WP52162】 点击下方链接了解会议详情 : GTC23 | 科学计算精选论坛中文解读诚邀您的到来!


原文标题:GTC23 | 节能提速:NVIDIA Grace CPU 为每个数据中心铺设节能计算快车道

文章出处:【微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英伟达
    +关注

    关注

    22

    文章

    3800

    浏览量

    91352

原文标题:GTC23 | 节能提速:NVIDIA Grace CPU 为每个数据中心铺设节能计算快车道

文章出处:【微信号:NVIDIA-Enterprise,微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    2024年星闪进入规模商用快车道

    2023年是星闪商用元年,2024年星闪进入规模商用快车道,预计到年底星闪应用将超过100个品类。我们相信星闪一定会为千行百业的无数应用场景带来全新的创新机遇。
    的头像 发表于 11-20 14:04 546次阅读

    计算数据中心的关系

    计算数据中心之间存在着密切且复杂的关系,它们相互依存、互相促进。 一、数据中心是云计算的基础设施 数据中心是一整套复杂的设施,用于传递、
    的头像 发表于 10-24 16:15 497次阅读

    数据中心能耗较多 如何科学智慧化进行整体解决方案呢

    节能的意义,*点介绍了常用的数据中心节能措施,并以北方某数据中心例说明常用的数据中心措施的优点
    的头像 发表于 07-29 16:58 311次阅读
    <b class='flag-5'>数据中心</b>能耗较多 如何科学智慧化进行整体解决方案呢

    数据中心液冷需求、技术及实际应用

    了,也更热了。有什么办法,给服务器“物理降温”吗?   根据国家对数据中心节能要求,全国范围内新建数据中心要求PUE(Power Usage Effectiveness,电源利用效率)<1.2,而传统的风冷制冷方式已经无法满足
    的头像 发表于 06-19 11:12 1112次阅读
    <b class='flag-5'>数据中心</b>液冷需求、技术及实际应用

    安森美推出新款碳化硅芯片,助力AI数据中心节能

    全球半导体技术领军企业安森美(Onsemi)近日宣布,推出了一系列创新的碳化硅(SiC)芯片。这些新型芯片的设计初衷,是借鉴其在电动汽车领域已经成熟的技术,驱动人工智能(AI)服务的数据中心带来更高的能效和节能性能。
    的头像 发表于 06-11 09:54 752次阅读

    NVIDIA新工业革命打造 AI 工厂和数据中心

    搭载 Grace CPU 以及 NVIDIA 网络和基础设施,助力于企业建立 AI 工厂和数据中心,推动新一轮生成式 AI 突破。 NVIDIA
    的头像 发表于 06-03 18:14 1008次阅读

    计算机行业携手 NVIDIA 新工业革命打造 AI 工厂和数据中心

    NVIDIA Blackwell 架构的系统,这些系统搭载 Grace CPU 以及 NVIDIA 网络和基础设施,助力于企业建立 AI 工厂和
    发表于 06-03 09:14 243次阅读
    <b class='flag-5'>计算</b>机行业携手 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>为</b>新工业革命打造 AI 工厂和<b class='flag-5'>数据中心</b>

    【解决方案】机房能源末端 数据中心 精密配电管理系统

    电能使用效率,降低设备能耗的有效方式。要实现数据中心节能,首先需要监测每个用电负载,而数据中心负载回路非常的多,传统的测量仪表无法满足成本、体积、安装、施工等多方面的要求,因此需要采
    的头像 发表于 05-30 14:10 366次阅读
    【解决方案】机房能源末端 <b class='flag-5'>数据中心</b> 精密配电管理系统

    浅谈数据中心节能措施探析与研究

    摘要: 数据中心向绿色化、节能化发展提供参考借鉴。 关键词: 数据中心;能耗;节能措施 1概述 随着新一轮信息技术革命和产业变革快速发展,数字经济异军突起,成为推动全球经济迅速恢复和稳
    的头像 发表于 05-28 13:39 475次阅读
    浅谈<b class='flag-5'>数据中心</b><b class='flag-5'>节能</b>措施探析与研究

    安科瑞数据中心精密配电监控装置--列头柜/UPS柜用电监控

    效方式。要实现数据中心节能,首先需要监测每个用电负载,而数据中心负载回路非常的多,传统的测量 仪表无法满足成本、体积、安装、施工等多方面的要求,因此需要采用适用于
    的头像 发表于 05-27 14:24 488次阅读
    安科瑞<b class='flag-5'>数据中心</b>精密配电监控装置--列头柜/UPS柜用电监控

    Green500全球最节能超级计算机榜单:采用NVIDIA技术包揽前三

    NVIDIA 系统在 Green500 榜单上的强势表现进一步验证了 NVIDIA 平台节能计算机所打造。
    的头像 发表于 05-24 10:59 661次阅读

    进一步解读英伟达 Blackwell 架构、NVlink及GB200 超级芯片

    能,加速模型的训练和推理过程。 2. 生成式 AI 解决方案 与英伟达 Grace CPU、新一代网络芯片等产品一起,面向生成式 AI 共同组成完整解决方案,数据中心提供强大的
    发表于 05-13 17:16

    中心能耗分析及节能策略研究与应用

    摘要:数据中心节能降耗管理和智能化运维提供支撑。 关键词:数据中心能耗;数据分析;关联分析;节能研究;皮尔逊相关系数 安科瑞薛瑶瑶18701
    的头像 发表于 04-07 13:32 347次阅读
    <b class='flag-5'>中心</b>能耗分析及<b class='flag-5'>节能</b>策略研究与应用

    数据中心末端配电监控解决方案-AMC100精密配电柜监控

    数据中心节能,首先需要监测每个用电负载,而数据中心负载回路非常的多,传统的测量仪表无法满足成本、体积、安装、施工等多方面的要求,因此需要采用适用于
    的头像 发表于 03-28 09:47 743次阅读
    <b class='flag-5'>数据中心</b>末端配电监控解决方案-AMC100精密配电柜监控

    数据中心变“绿“要点有哪些?

    数据中心作为一个复杂的系统,存储着大量敏感信息和重要数据,又是能耗“大户”,需要应对不断提升的“绿”电、节能要求,全面及时的检测维护对于数据中心尤为重要,
    的头像 发表于 01-25 11:12 741次阅读