0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AMD披露高效数据中心策略,预计至2027年能效提升超百倍

微云疏影 来源:综合整理 作者:综合整理 2024-05-24 17:37 次阅读

AMD首席执行官苏姿丰出席imec ITF World 2024大会并荣获创新奖,此项荣誉旨在肯定其卓越创新及引领行业发展之贡献。先前同样获得该奖项的还有戈登·摩尔和比尔·盖茨。

会议期间,苏姿丰谈论了AMD如何通过实施30x25战略推动2025年计算节点能效提升30倍的目标。她进一步透露,AMD已找到2026年至2027年间将能效提升100倍以上的解决方案。

随着生成式AI LLM如ChatGPT的崛起,AI功耗问题日益凸显。AMD早在2021年便洞察到AI庞大功耗需求所引发的挑战,并以此为契机启动30x25战略,致力于提升数据中心计算节点能效,尤其针对AI和HPC的高能耗问题。

随着训练模型所需算力不断攀升,AI功耗问题愈发严峻。苏姿丰指出,早期图像和语音识别AI模型体积每两年翻番,与过去十年计算能力提升速度相当。然而,生成式AI模型规模现今正以每年20倍的速度扩张,远超计算和存储进步速度。尽管当前最大模型需借助数万个GPU进行训练,耗费数万兆瓦时电力,但未来模型规模迅速扩大后,或需动用数十万个GPU,甚至数吉瓦时电力进行训练。

为了提升能效,AMD采取了全方位策略,涵盖硅架构升级、先进封装策略、AI专用架构设计、系统及数据中心级调整,以及软硬件协同设计等多个层面。

硅材料无疑是基础。苏姿丰强调,AMD正在推进3nm GAA晶体管研发,旨在提升功率效率和性能,同时持续关注先进封装和互联技术,以实现更高效、经济的模块化设计。先进封装在突破单芯片封装性能瓶颈方面具有重要意义,AMD采用2.5D和3D封装混合技术,最大化每平方毫米数据中心硅片的计算能力。

在服务器节点与服务器机架间传输数据因距离过长导致额外电力消耗,优化数据局部性可大幅节约能源。AMD MI300X展示了大规模芯片封装所带来的效率优势——该芯片包含1530亿个晶体管,分布在12个芯片上,配备24个HBM3芯片,提供192GB存储容量,均可作为本地内存供GPU使用。此外,封装内单元间经功率和性能优化的Infinity Fabric互连,使得极高的计算和存储密度能够将更多数据保存在接近处理核心的位置,从而降低数据传输所需能量。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • amd
    amd
    +关注

    关注

    25

    文章

    5466

    浏览量

    134055
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4723

    浏览量

    128871
  • HPC
    HPC
    +关注

    关注

    0

    文章

    314

    浏览量

    23746
  • 生成式AI
    +关注

    关注

    0

    文章

    500

    浏览量

    470
收藏 人收藏

    评论

    相关推荐

    安森美推动数据中心革新

    随着数据中心为了满足人工智能(AI)计算的庞大处理需求而变得越来越耗电,提高能变得至关重要。与一般的搜索引擎请求相比,搭载AI的引擎需要消耗超过10的电力。加快功率半导体的创新以改善
    的头像 发表于 11-14 09:41 204次阅读

    AMD数据中心营收首英特尔

    据科技媒体WccfTech报道,根据最新的财报数据披露了一个引人注目的消息:AMD数据中心领域取得了显著的突破,成功超越了长期占据市场主导地位的英特尔,成为新的领军者。这一变化不仅
    的头像 发表于 11-07 18:28 506次阅读

    AMD数据中心业务收入超越Intel

    AMD在2024第三季度的财务报告中,展示了其在数据中心业务领域的重大突破。据报告显示,AMD数据中心业务收入达到了35.49亿美元,同
    的头像 发表于 11-07 11:10 367次阅读

    数据中心管理系统对配电系统、能耗、温度、蓄电池等运行状态实时监测

    数据中心综合管理系统采集数据中心中低压配电系统、环境等数据,通过实时监测、控制和预警可以帮助数据中心
    的头像 发表于 08-22 10:09 338次阅读
    <b class='flag-5'>数据中心</b><b class='flag-5'>能</b><b class='flag-5'>效</b>管理系统对配电系统、能耗、温度、蓄电池等运行状态实时监测

    安森美引领数据中心革命

    在当今数字化转型的浪潮中,数据中心作为支撑人工智能、云计算等关键技术的基础设施,其能耗问题日益凸显。特别是随着AI计算的蓬勃发展,数据中心对电力的需求急剧增加,传统搜索引擎请求相比,AI引擎的电力消耗更是高达十以上。因此,
    的头像 发表于 08-12 11:13 477次阅读

    英特尔数据中心XPU产品最新进展:预计2027发布

    据匈牙利媒体PROHARDVER!的最新报道,英特尔正紧锣密鼓地在其内部开发新一代数据中心XPU产品,并有望于2027正式发布。这一消息标志着英特尔在数据中心计算领域的又一重要布局,
    的头像 发表于 08-02 16:17 607次阅读

    数据中心、智算中心中心,有何区别?

    数据中心、智算中心中心是当前计算机领域中比较重要的研究方向,三者虽然都属于数据中心的范畴,但在服务领域、技术体系上存在显著的区别。服
    的头像 发表于 06-22 08:27 5301次阅读
    云<b class='flag-5'>数据中心</b>、智算<b class='flag-5'>中心</b>、<b class='flag-5'>超</b>算<b class='flag-5'>中心</b>,有何区别?

    安森美推出提高数据中心的完整电源解决方案

    650V MOSFET的强大组合为数据中心应用提供了一种完整解决方案,该方案在更小的封装尺寸下提供了无与伦比的和卓越的热性能。
    的头像 发表于 06-13 11:01 547次阅读

    安森美新一代技术助力数据中心提升

    在人工智能飞速发展的当下,数据中心为了满足日益增长的计算需求,正面临巨大的电力挑战。的提高成为行业关注的焦点,而安森美作为半导体技术的领先者,正通过其最新技术为数据中心提供解决方案
    的头像 发表于 06-11 09:56 394次阅读

    安森美推出高效数据中心电源解决方案

    20246月6日 - 数据中心的人工智能计算需求日益增长,能耗随之变大。因此,如何提升成为了关键挑战。针对此问题,安森美推出了全新一
    的头像 发表于 06-07 14:24 578次阅读

    AMD CEO苏姿丰荣膺imec创新奖,30x25计划将计算节点提高30

    近年来,随着ChatGPT等生成式AI LLM的飞速发展,人工智能功耗问题日益凸显。然而,早在2021AMD便已洞察到此问题,并为此设定了“30x25”目标,旨在提升数据中心计算节
    的头像 发表于 05-24 15:57 443次阅读

    CXL技术:全面升级数据中心架构

    达到 21.2%,并在20222026期间增加一多。而中国的数据规模将从2022的23
    发表于 04-17 16:32 279次阅读

    浅析我国数据中心配电系统的能耗及水平

    浅析我国数据中心配电系统能耗及水平 张颖姣 安科瑞电气股份有限公司 上海嘉定201801 摘要:伴随着互联网技术的深入全面发展,在“互联网+”的时代,信息化进程日益加快,我国数据中心
    的头像 发表于 04-09 16:09 336次阅读
    浅析我国<b class='flag-5'>数据中心</b>配电系统的能耗及<b class='flag-5'>能</b><b class='flag-5'>效</b>水平

    数据中心配电能精细化建设策略研究与趋势分析

    数据中心配电能精细化建设策略研究与趋势分析 张颖姣 安科瑞电气股份有限公司  上海嘉定  201801 摘要:通过分析用户需求、建设和运维等多方对数据中心建设的要求;结合国家政策、
    的头像 发表于 03-11 17:00 365次阅读
    <b class='flag-5'>数据中心</b>配电能<b class='flag-5'>效</b>精细化建设<b class='flag-5'>策略</b>研究与趋势分析

    浅析我国数据中心配电系统能耗及水平

    浅析我国数据中心配电系统能耗及水平 张颖姣 安科瑞电气股份有限公司 上海嘉定201801 摘要:伴随着互联网技术的深入全面发展,在“互联网+”的时代,信息化进程日益加快,我国数据中心
    的头像 发表于 03-11 15:48 331次阅读
    浅析我国<b class='flag-5'>数据中心</b>配电系统能耗及<b class='flag-5'>能</b><b class='flag-5'>效</b>水平