0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AMD披露高效数据中心策略,预计至2027年能效提升超百倍

微云疏影 来源:综合整理 作者:综合整理 2024-05-24 17:37 次阅读

AMD首席执行官苏姿丰出席imec ITF World 2024大会并荣获创新奖,此项荣誉旨在肯定其卓越创新及引领行业发展之贡献。先前同样获得该奖项的还有戈登·摩尔和比尔·盖茨。

会议期间,苏姿丰谈论了AMD如何通过实施30x25战略推动2025年计算节点能效提升30倍的目标。她进一步透露,AMD已找到2026年至2027年间将能效提升100倍以上的解决方案。

随着生成式AI LLM如ChatGPT的崛起,AI功耗问题日益凸显。AMD早在2021年便洞察到AI庞大功耗需求所引发的挑战,并以此为契机启动30x25战略,致力于提升数据中心计算节点能效,尤其针对AI和HPC的高能耗问题。

随着训练模型所需算力不断攀升,AI功耗问题愈发严峻。苏姿丰指出,早期图像和语音识别AI模型体积每两年翻番,与过去十年计算能力提升速度相当。然而,生成式AI模型规模现今正以每年20倍的速度扩张,远超计算和存储进步速度。尽管当前最大模型需借助数万个GPU进行训练,耗费数万兆瓦时电力,但未来模型规模迅速扩大后,或需动用数十万个GPU,甚至数吉瓦时电力进行训练。

为了提升能效,AMD采取了全方位策略,涵盖硅架构升级、先进封装策略、AI专用架构设计、系统及数据中心级调整,以及软硬件协同设计等多个层面。

硅材料无疑是基础。苏姿丰强调,AMD正在推进3nm GAA晶体管研发,旨在提升功率效率和性能,同时持续关注先进封装和互联技术,以实现更高效、经济的模块化设计。先进封装在突破单芯片封装性能瓶颈方面具有重要意义,AMD采用2.5D和3D封装混合技术,最大化每平方毫米数据中心硅片的计算能力。

在服务器节点与服务器机架间传输数据因距离过长导致额外电力消耗,优化数据局部性可大幅节约能源。AMD MI300X展示了大规模芯片封装所带来的效率优势——该芯片包含1530亿个晶体管,分布在12个芯片上,配备24个HBM3芯片,提供192GB存储容量,均可作为本地内存供GPU使用。此外,封装内单元间经功率和性能优化的Infinity Fabric互连,使得极高的计算和存储密度能够将更多数据保存在接近处理核心的位置,从而降低数据传输所需能量。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • amd
    amd
    +关注

    关注

    25

    文章

    5277

    浏览量

    132986
  • gpu
    gpu
    +关注

    关注

    27

    文章

    4513

    浏览量

    127584
  • HPC
    HPC
    +关注

    关注

    0

    文章

    291

    浏览量

    23463
  • 生成式AI
    +关注

    关注

    0

    文章

    427

    浏览量

    335
收藏 人收藏

    评论

    相关推荐

    数据中心、智算中心、超算中心,有何区别?

    模式,旨在为用户提供高效、灵活、安全的计算服务。云数据中心通过网络提供弹性、可扩展的计算、存储和应用服务,其最大的特点是资源池化、按需服务、快速部署和灵活管理。用户
    的头像 发表于 06-22 08:27 228次阅读
    云<b class='flag-5'>数据中心</b>、智算<b class='flag-5'>中心</b>、超算<b class='flag-5'>中心</b>,有何区别?

    英威腾数据中心解决方案实现安全升级和高效运转

    高效运转。   威智iWit系列中小型一体化数据中心解决方案以其独特的设计和全面的功能,满足了江西省疾病预防控制中心对于数据中心的标准要求。该方案将小型或中型
    的头像 发表于 06-17 17:09 424次阅读

    #mpo极性 #数据中心mpo

    数据中心MPO
    jf_51241005
    发布于 :2024年04月07日 10:05:13

    #mpo光纤跳线 #数据中心光纤跳线

    光纤数据中心
    jf_51241005
    发布于 :2024年03月22日 10:18:31

    数据中心配电能效精细化建设策略研究与趋势分析

    数据中心配电能效精细化建设策略研究与趋势分析 张颖姣 安科瑞电气股份有限公司  上海嘉定  201801 摘要:通过分析用户需求、建设和运维等多方对数据中心建设的要求;结合国家政策、数据中心
    的头像 发表于 03-11 17:00 210次阅读
    <b class='flag-5'>数据中心</b>配电能效精细化建设<b class='flag-5'>策略</b>研究与趋势分析

    #光纤弯曲 #光纤衰减 #数据中心光纤

    光纤数据中心
    jf_51241005
    发布于 :2024年03月08日 09:59:50

    #MPO预端接 #数据中心机房 #机房布线

    数据中心MPO
    jf_51241005
    发布于 :2024年03月01日 11:12:47

    多业务光端机在数据中心的应用:提升网络效率的关键

    随着云计算、大数据等技术的迅猛发展,数据中心已成为现代社会不可或缺的基础设施。数据中心内部网络的高效、稳定运行对于整个数据中心的性能至关重要
    的头像 发表于 02-23 14:09 315次阅读

    #永久链路 #信道测试 #数据中心

    数据中心
    jf_51241005
    发布于 :2024年02月23日 10:17:58

    #紧套光缆 #松套光缆 #数据中心

    数据中心光缆
    jf_51241005
    发布于 :2024年01月26日 09:44:11

    数据中心变“绿“要点有哪些?

    数据中心作为一个复杂的系统,存储着大量敏感信息和重要数据,又是能耗“大户”,需要应对不断提升的“绿”电、节能要求,全面及时的检测维护对于数据中心尤为重要,
    的头像 发表于 01-25 11:12 480次阅读

    #光缆水峰 #综合布线光缆 #数据中心

    数据中心光缆
    jf_51241005
    发布于 :2024年01月15日 09:43:26

    数据中心 3D 机房数字孪生 #数据中心

    3D数据中心
    阿梨是苹果
    发布于 :2023年12月28日 10:02:33

    #预端接光缆 #24芯光缆 #数据中心

    数据中心光缆
    jf_51241005
    发布于 :2023年12月08日 11:01:21

    大模型时代,数据中心将转向何方?

    数据中心大模型
    脑极体
    发布于 :2023年11月22日 09:01:41