0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Vicor技术如何改进生成式人工智能的供电

Vicor 来源:Vicor 2024-10-16 09:54 次阅读

专访 Maury Wood,Vicor 战略营销副总裁

生成式人工智能(genAI)带来的文化革命可能像互联网普及一样对人类产生深远影响。从您的角度来看,目前情况如何?

过去 18 个月以来,我们见证了整个生成式人工智能生态系统的飞速创新,涵盖处理器芯片、专用软件和超级计算机等多个领域,这些创新加速了特定领域人工智能应用的开发,同时,许多企业纷纷宣布战略规划,这预示着生成式人工智能将在可预见的未来对全球经济产生巨大影响。目前,生成式人工智能模型的训练已经在计算性能、存储容量和网络带宽方面达到了前所未有的高水平。一些当今性能最高的超级计算机(通常以浮点数学性能衡量)专门用于生成式人工智能模型训练。生成式人工智能正推动半导体、基础设施硬件、系统软件和网络边缘等领域的空前投资,这种投资热潮有望进一步扩展到家庭和工作场所的嵌入式人工智能设备领域。

生成式人工智能的快速普及会带来哪些负面影响?

除了人们普遍担忧的问题外,这波创新浪潮的一个主要成本是云数据中心的能耗急剧增加,这些数据中心承担着生成式人工智能的训练和推理任务,而能耗的预测数据令人担忧。例如,《纽约时报》的一项预测显示,到 2027 年,生成式人工智能的用电量将相当于阿根廷、荷兰或瑞典一年的用电量。生成式人工智能模型的训练和推理带来日益严重的能耗挑战,与社会减少能源使用和温室气体排放的目标背道而驰。

为何生成式人工智能计算如此耗电?

首先,让我们区分两个概念。当我们个人使用生成式人工智能工具时,我们是在对预训练的大型语言模型(LLM)进行查询,这种所谓的"推理"活动并不特别耗电,甚至可以在网络边缘设备上进行。然而,训练生成式人工智能大型语言模型的过程则需要在我之前提到的超级计算机上进行大量计算(目前这个过程通常需要数月)。这些超级计算机使用成千上万个基于图形处理单元(GPU)的专用处理器,每个处理器包含的晶体管都数量惊人——通常超过 1000 亿。这些训练处理器采用了最先进的半导体工艺技术,如 4 纳米 CMOS 工艺,但在运行过程中会漏电。由于这些晶体管的供电电压约为 0.7VDD,持续的电流需求可能高达 1000 安培或更高,导致持续功耗(也称为热设计功耗)达到 700 瓦特或更高。如果每台生成式人工智能超级计算机的数千个处理器和全球数百台云端生成式人工智能超级计算机都乘以 700 瓦,总体电力消耗就会急剧飙升。

举个例子,根据英伟达(Nvidia)的数据,OpenAI 的 GPT-3 模型有 1750 亿个参数,整个训练周期需要约 300 泽字节浮点运算(300 zettaFLOPS,即每秒 1021 次浮点运算),相当于 3X1023 次数学运算。而且这些模型的规模只会不断增加,目前正在开发的神经网络模型参数已达到万亿级。

229e9bd8-8b53-11ef-a511-92fbcf53809c.jpg

图 1:生成式人工智能训练处理器的峰值电流需求不断攀升,似乎没有尽头。

常规开关模式电源架构能否满足生成式人工智能的供电需求?

直到最近,数据中心机架还在使用 12V 直流配电系统。在过去十年中,Vicor 等电源系统创新公司一直倡导在数据中心机架中使用 48V 直流电源,因为根据欧姆定律,电压更高可以在具有非零电阻的导体中降低功耗。开放计算项目组织(Open Compute Project)标准化的开放机架规范大大推动了 48V 直流电源在高性能计算应用中的采用。在早期的生成式人工智能配电架构中,这种 48V 直流电源在加速模块上转换为中间母线电压,然后再通过跨电感电压稳压器(TLVR)供电,然而这种方法在可扩展性和电流密度方面存在明显的局限性。

概念性加速模块(AM),展示基于 GPU 的处理器并支持高带宽内存(HBM),是生成式人工智能的基本构建模块。

为何 TLVR 方法不足以满足生成式人工智能处理器的供电需求?

在用于生成式人工智能训练处理器的加速模块上,可用的印刷电路板(PCB)空间非常有限,这意味着这些处理器的供电子系统必须具有超高的功率密度(W/mm²)和电流密度(A/mm²)。传统电源根本无法达到所需的功率和电流密度,既无法提供足够的电流,也无法适应有限的 PCB 面积。此外,生成式人工智能训练处理器的电源组件还必须满足负载瞬变引起的动态性能需求。同样,传统的供电方法并不能很好地满足这些要求。另外,生成式人工智能供电架构中的组件必须具有出色的散热能力。无论生成式人工智能系统采用液冷还是风冷,电源组件都必须具有高热导率,其封装还要能在整个使用寿命期内承受极高水平的热循环。最新的生成式人工智能加速模块采用分级电源架构,其负载点转换器使用电流倍增技术,如 Vicor 公司的创新技术。

Vicor 的分比式电源架构(FPA)在负载点采用具有出色散热性能的模块化电流倍增器(MCM),非常适合生成式人工智能训练应用。

Vicor 技术如何改进生成式人工智能的供电?

Vicor 独特的电源模块采用模塑成型,然后使用无电镀镍浸金(ENIG)工艺进行电镀。模压结构确保机械刚性,以及在温度、湿度和振动等环境下的稳定性。电镀外表面有利于高良率的表面贴装组装,同时为使用冷板强制风冷或液冷提供了理想的热传导条件。Vicor 电源模块采用专有的正弦振幅转换器(SAC)电路拓扑,使用零电压开关(ZVS)和零电流开关(ZCS)技术来最大限度地减少开关噪声和杂散辐射,同时最大化 DC-DC 转换效率。Vicor 还使用高频 MOSFET 开关来减小高度集成模块的物理尺寸。此外,Vicor 为人工智能/高性能计算应用设计的负载点组件非常薄(≤1.7mm),并在一系列与 PCB 兼容的封装中提供可扩展的电流输出。在可预见的未来,生成式人工智能无疑将继续是现代计算世界中最耗电且散热挑战最大的应用。Vicor 将继续创新,满足这一激动人心的新业务机会不断攀升的供电需求。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 处理器
    +关注

    关注

    68

    文章

    19548

    浏览量

    231872
  • 数据中心
    +关注

    关注

    16

    文章

    4967

    浏览量

    72688
  • 人工智能
    +关注

    关注

    1800

    文章

    48107

    浏览量

    242252

原文标题:随着人工智能(AI)的发展,电力挑战也随之而来

文章出处:【微信号:Vicor,微信公众号:Vicor】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    我国生成人工智能的发展现状与趋势

    作为信息化、数字化、智能化的新型技术基座,生成人工智能对于提升国家战略地位与国际竞争力具有重要意义。2022年11月以来,随着以ChatG
    的头像 发表于 02-08 11:31 480次阅读

    生成人工智能模型的安全可信评测

    近些年来,生成人工智能技术取得了飞跃发展。随着各式各样的大模型不断迭代升级,从一般通用生成能力,到各种专有领域的细分能力,再到更注重与用户的实际交互,大模型的各项能力显著提升,
    的头像 发表于 01-22 13:55 557次阅读
    <b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>人工智能</b>模型的安全可信评测

    嵌入人工智能究竟是什么关系?

    了重要作用。在未来,随着嵌入系统和人工智能技术的不断进步,我们可以预见更多创新应用的出现,为社会发展和生活品质的提升带来更多可能性。
    发表于 11-14 16:39

    《AI for Science:人工智能驱动科学创新》第6章人AI与能源科学读后感

    探讨了人工智能如何通过技术创新推动能源科学的进步,为未来的可持续发展提供了强大的支持。 首先,书中通过深入浅出的语言,介绍了人工智能在能源领域的基本概念和技术原理。这使得我对
    发表于 10-14 09:27

    《AI for Science:人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

    ,无疑为读者铺设了一条探索人工智能(AI)如何深刻影响并推动科学创新的道路。在阅读这一章后,我深刻感受到了人工智能技术在科学领域的广泛应用潜力以及其带来的革命性变化,以下是我个人的学习心得: 1.
    发表于 10-14 09:12

    risc-v在人工智能图像处理应用前景分析

    和使用该技术,无需支付专利费或使用费。这大大降低了人工智能图像处理技术的研发成本,并吸引了大量的开发者、企业和研究机构参与其生态建设。 灵活性则体现在RISC-V可以根据不同的应用场景进行定制和优化,从而
    发表于 09-28 11:00

    生成人工智能在教育中的应用

    生成人工智能在教育中的应用日益广泛,为教育领域带来了诸多变革和创新。以下是对生成人工智能在教
    的头像 发表于 09-16 16:07 1662次阅读

    生成人工智能的概念_生成人工智能主要应用场景

    生成人工智能(Generative Artificial Intelligence,简称GAI)是一种先进的人工智能技术,其核心在于利用计算机算法和大量数据来
    的头像 发表于 09-16 16:05 3024次阅读

    揭秘生成人工智能如何重塑视频会议体验

    面对面交流所带来的体验。与此同时,生成人工智能技术的飞速发展,为破解混合会议长期以来面临的诸多挑战提供了创新性解决方案。 生成
    的头像 发表于 08-19 14:54 279次阅读

    如何利用生成人工智能进行精确编码

    随着技术的飞速发展,生成人工智能(Generative AI)在软件开发领域的应用日益广泛。生成
    的头像 发表于 07-05 17:51 914次阅读

    中国生成人工智能专利数量傲视群雄

    在全球科技创新的浪潮中,生成人工智能(Generative AI)作为一股不可忽视的力量,正以前所未有的速度重塑着多个行业的面貌。近日,世界知识产权组织(WIPO)发布的《世界知识产权组织
    的头像 发表于 07-04 15:39 430次阅读

    Google开发专为视频生成配乐的人工智能技术

    近日,科技巨头Google旗下的人工智能研究实验室DeepMind宣布了一项引人注目的技术突破——V2A技术(Video to Audio),这是一项专为视频生成配乐的
    的头像 发表于 06-20 11:03 618次阅读

    Vicor引领生成人工智能供电技术的创新浪潮

        虽然人工智能有望带来人类生产力的飞跃,但其运行时能耗巨大,导致温室气体的排放也显著增加。如今,Vicor 电源模块与垂直供电架构相结合,为 GenAI 提供了高效的供电方法,实
    的头像 发表于 06-11 16:03 949次阅读
    <b class='flag-5'>Vicor</b>引领<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>人工智能</b><b class='flag-5'>供电</b><b class='flag-5'>技术</b>的创新浪潮

    Adobe发布Lightroom人工智能新功能:生成消除和镜头模糊预览

    Adobe此次公布的新功能包括生成消除(Generative Remove)与镜头模糊预设(Lens Blur presets)两项人工智能技术。前者名为“Firefly”的人工智能
    的头像 发表于 05-22 12:09 1073次阅读

    HiDream.ai(智象未来)在生成人工智能领域展现出了巨大潜力

    生成人工智能(Generative Artificial Intelligence)是人工智能领域的一个重要分支,它致力于通过模拟人类思维过程和创造力,实现对复杂问题的理解和解决。梅
    的头像 发表于 05-21 10:26 597次阅读