0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AMD处理器和加速器全面助力人工智能 (AI) 训练与高性能计算

AMD中国 来源:AMD中国 作者:AMD中国 2022-07-03 15:46 次阅读

根据世界经济论坛2022年《全球风险报告》显示,“气候行动失败”是未来5-10年内全球最主要的长期风险之一。这不仅是未来的挑战,而且相关问题已经显现。作为微处理器设计厂商,在技术飞速发展的今天,我们有责任保护地球,也有机会帮助大家节约能源和减少温室气体排放。

AMD面向未来绘制了更加宏伟的蓝图,在25x20能效计划实施的基础上,制定了一项新的能效目标——30x25目标。从2020年到2025年,将AMD 处理器和加速器的能效提高 30 倍,全面助力人工智能 (AI) 训练与高性能计算。我们的目标相当于到 2025 年将计算的能耗减少97%。如果全球所有的人工智能和高性能计算服务器节点都能实现相似的提升,相对于行业基准趋势,从2021年到2025 年,最多可节省510亿千瓦时的电力,相当于62 亿美元的节电量和 6 亿棵生长 10 年的树木的碳减排量。

f12ccb34-ee2d-11ec-ba43-dac502259ad0.png

AMD EPYC(霄龙)处理器和AMD Instinct 加速器

AMD EPYC(霄龙) 7003系列产品是性能出类拔萃的x86服务器处理器,其不仅能带来出色的性能,而且能够充分降低数据中心运营对环境的影响,进一步降低能源成本,同时推动实现公司的可持续发展目标。

经过全新设计的AMD Instinct 加速器,可以轻松应对高性能计算和人工智能工作负载,无论是单服务器解决方案,还是世界先进的超级计算机,AMD Instinct 系列加速器可为各种规模的数据中心带来卓越性能。全新的AMD Instinct 加速器采用创新性 AMD CDNA 2 架构、AMD Infinity Fabric 技术以及先进的封装技术,助力百亿亿级计算系统加速探索发现,让科学家能够轻松应对各种紧迫的挑战。

基于AMD EPYC(霄龙)CPU和AMD Instinct加速器,AMD可以为AI训练和HPC应用程序中那些世界上增长最快的计算需求而服务。这些应用程序可用于:

-气候预测、基因组学和药物发现等方面的科学研究

-语音识别、语言翻译和AI神经网络训练等

我们相信通过架构创新,可以为这些及其他加速计算节点的应用程序优化能源。

接近2022年中期,AMD正朝着实现30x25的目标前进,仅通过使用基于一颗第三代AMD EPYC CPU和四个AMD Instinct MI250x GPU的加速节点,便可以在2020年的基准水平之上提高6.79倍能效。我们的进度报告采用的测量方法2经过著名的计算能效研究专家Jonathan Koomey博士的验证。

f1caeb2a-ee2d-11ec-ba43-dac502259ad0.png

保护地球人人有责,AMD将持续通过提高产品能效,助力可持续发展的低碳经济加速转型,实现节约能源和减少温室气体排放的目标,对全社会产生积极的作用。

1、该情景基于全球所有人工智能和高性能计算服务器节点实现 AMD 30 倍目标的提升,相对于 2020 年的基线趋势,从 2021 年到 2025 年,累计节省高达 514 亿千瓦时的电力。假设每千瓦时 0.12 美分 x 514 亿千瓦时 = 620 万美元。CO2e 排放量(公吨)以及植树当量的估算值来自 2021 年 12 月 1 日将节电量输入美国 EPA 温室气体计算器后得出的结果。https://www.epa.gov/energy/greenhouse-gas-equivalencies-calculator

2、 AMD 在四加速器 CPU 主机配置中对用于人工智能训练和高性能计算的高性能 AMD CPU 和 GPU 加速器进行计算节点效能功耗比测量。

- 高性能计算工作负载的性能基于具有 4k 矩阵大小的 Linpack DGEMM kernel FLOPS。人工智能训练的性能基于在 4k 矩阵上运行的低精度训练浮点数学 GEMM kernel,例如 FP16 或 BF16 FLOPS。

-功耗基于一个典型的加速计算节点(包括 CPU 主机 + 内存以及 4 个 GPU 加速器)的热设计功耗 (TDP)。

为了使该目标与全球能源使用量密切相关,AMD 与 Koomey Analytics 合作评估可用的研究和数据,其中包括 GPU 高性能计算 (HPC) 和机器学习 (ML) 等特定领域数据中心能源使用效率 (PUE)。AMD CPU 和 GPU 节点功耗包含特定领域使用(活动与空闲)百分比,并乘以 PUE 来确定实际总能耗,从而能够计算出效能功耗比。

能耗基准采用 2015-2020 年数据中观察到的行业单位作业能耗提升率,并根据这一变化率推测至 2025 年。AMD 目标趋势线(表 1)显示到 2025 年实现能效提升 30 倍目标所需的指数级提升。AMD 实际发布产品(表 2)是表 1 AMD 目标能效提升的来源。

2020 年到 2025 年各领域单位作业能耗提升值是由全球预计销量加权得出(根据 IDC - Q1 2021 TrackerHyperion- Q4 2020 Tracker,Hyperion 高性能计算市场分析,2021 年 4 月)。将这些销量换算到机器学习训练和高性能计算市场,会得出如下表 3 所示的节点量。然后将这些节点量乘以 2025 年各计算领域的典型能源消耗 (TEC)(表 4),得出一个有意义的全球实际能源使用提升的总体指标。

f1ed319e-ee2d-11ec-ba43-dac502259ad0.png



原文标题:AMD EPYC(霄龙) 处理器和AMD Instinct 加速器为高能效添能助力

文章出处:【微信公众号:AMD中国】欢迎添加关注!文章转载请注明出处。


审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 加速器
    +关注

    关注

    2

    文章

    795

    浏览量

    37769
  • AMD处理器
    +关注

    关注

    2

    文章

    59

    浏览量

    12991
  • 人工智能
    +关注

    关注

    1791

    文章

    46879

    浏览量

    237616

原文标题:AMD EPYC(霄龙) 处理器和AMD Instinct 加速器为高能效添能助力

文章出处:【微信号:AMD中国,微信公众号:AMD中国】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    IBM与AMD携手部署MI300X加速器,强化AI与HPC能力

    举措预计将于2025年上半年正式推出。 此次合作的核心目标是提升通用人工智能(AI)模型的性能与能效,并为企业客户提供高性能计算(HPC)应
    的头像 发表于 11-21 11:07 143次阅读

    AMD Alveo V80计算加速器网络研讨会

    欢迎参加本次网络研讨会,我们将深入探讨 AMD Alveo V80 计算加速器如何帮助您处理高性能计算
    的头像 发表于 11-08 09:35 140次阅读

    AI for Science:人工智能驱动科学创新》第二章AI for Science的技术支撑学习心得

    人工智能在科学研究中的核心技术,包括机器学习、深度学习、神经网络等。这些技术构成了AI for Science的基石,使得AI能够处理和分析复杂的数据集,从而发现隐藏在数据中的模式和规
    发表于 10-14 09:16

    AI for Science:人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

    人工智能:科学研究的加速器 第一章清晰地阐述了人工智能作为科学研究工具的强大功能。通过机器学习、深度学习等先进技术,AI能够处理和分析海量
    发表于 10-14 09:12

    Samtec AI 应用详述 | 人工智能加速器所需的连接

    数据挖掘、人工智能、机器学习、商业分析。 高性能互连是中央处理器(CPU)和人工智能加速器之间的纽带,在实现这些系统所需的可扩展性和灵活性方
    发表于 09-29 13:44 310次阅读
    Samtec <b class='flag-5'>AI</b> 应用详述 | <b class='flag-5'>人工智能</b><b class='flag-5'>加速器</b>所需的连接<b class='flag-5'>器</b>

    risc-v在人工智能图像处理应用前景分析

    、RISC-V在人工智能图像处理中的应用案例 目前,已有多个案例展示了RISC-V在人工智能图像处理中的应用潜力。例如: Esperanto技术公司 :该公司制造的首款
    发表于 09-28 11:00

    贸泽开售适用于高性能计算应用的AMD Alveo V80加速器

    、分子动力学、数据分析、网络安全、传感处理计算存储和金融技术。   AMD Alveo V80加速器卡基于7nm Versal™自适应S
    发表于 09-27 14:59 149次阅读

    AI云服务:开启智能计算新时代

    ,旨在为人工智能应用提供坚实的支持。 特点 高性能:配备先进的处理器,如多核CPU和高性能GPU,能够快速处理大量复杂的
    的头像 发表于 08-09 16:08 736次阅读

    FPGA在人工智能中的应用有哪些?

    FPGA(现场可编程门阵列)在人工智能领域的应用非常广泛,主要体现在以下几个方面: 一、深度学习加速 训练和推理过程加速:FPGA可以用来加速
    发表于 07-29 17:05

    Hailo获1.2亿美元新融资,首发AI加速器Hailo-10,助力边缘设备实现生成式人工智能

    技术引入边缘计算领域,为行业发展注入新动力。 边缘人工智能处理器的领先芯片制造商Hailo近日宣布C轮融资再获1.2亿美元投资。与此同时,Hailo还推出创新型Hailo-10高性能
    的头像 发表于 04-03 11:57 307次阅读

    瑞萨发布下一代动态可重构人工智能处理器加速器

    瑞萨最新发布的动态可重构人工智能处理器(DRP-AI加速器,在业界引起了广泛关注。这款加速器拥有卓越的10 TOPS/W高功率效率,相比传
    的头像 发表于 03-08 13:45 728次阅读

    家居智能化,推动AI加速器的发展

    电子发烧友网报道(文/黄山明)AI加速芯片,也称为人工智能加速器AI Accelerator),是一种专为执行机器学习和深度学习任务而设计
    的头像 发表于 02-23 00:18 4542次阅读

    英伟达、AMD在2024年继续全力冲刺人工智能加速器市场

    英伟达、AMD在2024年继续全力冲刺人工智能AI加速器市场。
    的头像 发表于 01-08 17:27 1170次阅读
    英伟达、<b class='flag-5'>AMD</b>在2024年继续全力冲刺<b class='flag-5'>人工智能</b><b class='flag-5'>加速器</b>市场

    人工智能服务高性能计算需求

    人工智能(AI)服务是一种专门为了运行人工智能应用和提供大数据处理能力而设计的高性能计算机。它
    的头像 发表于 12-08 09:44 494次阅读

    AMD Instinct加速器AMD EPYC处理器为Microsoft带来全新AI计算能力

    AMD Instinct加速器将为针对AI进行优化的全新Microsoft Azure虚拟机系列提供动力 — — 第四代AMD EPYC处理器
    的头像 发表于 12-04 13:54 583次阅读