液冷NVIDIA A100 PCIe GPU能够满足客户对高性能绿色数据中心的需求,在主流服务器GPU中尚属首例。
为了遏制气候变化,全球企业正在加快构建高性能、高能效的数据中心,Equinix边缘基础设施主管Zac Smith也参与其中。
他所效力的Equinix是一家全球服务提供商,旗下管理的数据中心超过240个,致力于在业内率先实现气候中和。
“一万家客户依赖Equinix达成气候中和的目标。他们需要更大量的数据以及更高水平的智能,而这通常有赖于AI,且他们希望能够以一种具有可持续性的方式来实现。”Smith说道。2000年代初还在茱莉亚音乐学院读研的他,为纽约的音乐家同僚们搭建了网站,由此与技术结下不解之缘。
能效稳步提升
截至4月,Equinix已发行49亿美元的绿色债券。Equinix将通过这些投资工具来优化电源使用效率(PUE),以期减少对环境的影响。PUE是一种行业指标,用于衡量数据中心使用的能源有多少直接用于计算任务。
数据中心运营商正试图将PUE降至接近1.0的理想水平。Equinix设施目前的平均PUE为1.48,而其旗下新数据中心的PUE最低可低于1.2。
从PUE来看,Equinix正在稳步提升数据中心的能效
Equinix于1月新启动了一个专门用于提升能效的设施,在此方向上更进一步。其中一部分工作侧重于液冷技术。
液冷技术诞生于大型机时代,在AI时代日臻成熟。如今,液冷技术已经以直接芯片(Direct-to-Chip)冷却的形式广泛应用于全球高速超级计算机。
NVIDIA GPU在AI推理和高性能计算方面的能效已比CPU高出20倍,而加速计算也顺理成章地将采用液冷技术。
通过加速提高效率
如果将全球所有运行AI和HPC的CPU服务器切换为GPU加速系统,每年可节省高达11万亿瓦时的能源。节约的能源量可供150多万套房屋使用一年。
今日,NVIDIA发布了率先采用直接芯片(Direct-to-Chip)冷却技术的数据中心PCIe GPU,为可持续发展贡献了自己的力量。
Equinix正在验证A100 80GB PCIe液冷GPU在其数据中心的应用,这也是该公司为实现可持续性冷却和热量捕获的综合性方案中的一部分。GPU现已进入试用阶段,预计将于今年夏季正式发布。
节约用水和用电
“这是我们实验室中引入的首款液冷GPU,我们倍感兴奋,因为客户迫切希望通过可持续的方式来利用AI,”Smith说道。
数据中心运营商旨在淘汰用于冷却数据中心内部气体的冷水机组,因其每年会蒸发数百万加仑的水量。而借助液冷技术,系统仅需对封闭系统中的少量液体进行循环利用,并能够着重于主要的发热点。
Smith说:“我们将变废为宝。”
同等性能,更少耗电
在单独的测试中,Equinix和NVIDIA均发现:采用液冷技术的数据中心工作负载可与风冷设施持平,同时消耗的能源减少了约30%。NVIDIA估计,液冷数据中心的PUE可能达到1.15,远低于风冷的PUE 1.6。
在空间相同的条件下,液冷数据中心可以实现双倍的计算量。这是由于A100 GPU仅使用一个PCIe插槽,而风冷A100 GPU需使用两个PCIe插槽。
NVIDIA借助液冷技术达到了节省电力和增加密度的效果
至少有十几家系统制造商计划于今年晚些时候在其产品中使用液冷GPU,包括华硕(ASUS)、永擎电子(ASRock Rack)、富士康工业互联网(Foxconn Industrial Internet)、技嘉科技(GIGABYTE)、新华三(H3C)、浪潮(Inspur)、英业达(Inventec)、宁畅(Nettrix)、云达科技(QCT)、超微(Supermicro)、纬颖科技(Wiwynn)和超聚变(xFusion)。
全球趋势
在亚洲、欧洲和美国,制定能效标准的法规尚未确定。这也推动了银行和其他大型数据中心运营商纷纷加入液冷技术评估的队伍。
液冷技术的使用范围并不局限于数据中心,汽车和其他系统也需要利用该项技术来冷却封闭空间内的高性能系统。
可持续发展之路
“我们即将开启新的旅程,”Smith谈及这一采用液冷技术的主流加速器首次亮相时如是说。
事实上,NVIDIA计划于明年推出的一版A100 PCIe卡中搭载基于NVIDIA Hopper架构的H100 Tensor Core GPU。近期内,NVIDIA计划将液冷技术应用于自有高性能数据中心GPU和NVIDIA HGX平台。
为推动快速采用,今日发布的液冷GPU可在减少能耗的同时维持性能不变。未来,我们期望这些卡在使用同等能源的条件下,展现更出色的性能,满足用户所需。
“仅仅测量功率没有意义,降低碳排放的同时提升性能才是我们努力的方向,” Smith说道。
详细了解NVIDIA全新发布的A100 PCIe液冷GPU。
-
NVIDIA
+关注
关注
14文章
4949浏览量
102830 -
gpu
+关注
关注
28文章
4703浏览量
128729 -
服务器
+关注
关注
12文章
9029浏览量
85208
发布评论请先 登录
相关推荐
评论