0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI芯片的动态功率控制技术解析

我快闭嘴 来源:爱集微 作者:嘉德IPR 2020-10-20 15:18 次阅读

NVIDIA发明的具有主动电源管理系统的GPU,借助于人工智能技术,在保证性能的前提下提供了更好的可靠性,并且可用于需要高度可靠性的计算场景中。

3D图形显卡在1999年NVIDIA公司推出GeForce 256时开始了其首次变革,这种硬件光影转换技术,极大的提高了计算机的图像显示性能,对游戏领域产生了重要的革命意义,同时也带给了用户极高的画面真实感。

当前,图形处理器已经无处不在,GPU不再仅仅用于图形应用,而是被广泛用于密集计算操作的应用程序,包括人工智能、实时识别和自动驾驶等领域中。

就在2020年9月2日凌晨,NVIDIA发布了RTX30系列显卡,分别为RTX3070、RTX3080和RTX3090,据悉,3070的性能比2080更强,价格确更加便宜,3080的性能是2080的两倍,价格却和2080一样,而3090则支持8K 60帧光线追踪。

而随着人工智能芯片的兴起,不仅仅是各种人工智能训练需要借助于NVIDIA的图形显卡,NVIDIA也在尝试将人工智能技术应用在GPU图形处理单元中。在18年,NVIDIA发布了一款全新的AI芯片,它将价值10000美元的性能,塞进了一个售价仅为1299美元的小盒子,30W功耗就可以与1万美元的工作站媲美。

无疑,这样的技术对于AI芯片的功耗的要求非常高,因此需要电源控制器来最小化AI芯片的功率。为达此目的,NVIDIA在2020年2月13日发明了一项名为“指令和机器学习的能量特征有效地操作处理系统的技术”的发明专利(公开号:US 2020/0050920 A1),申请人为NVIDIA公司。

根据该专利目前公开的资料,让我们一起来看看这项AI芯片的动态功率控制技术吧。


如上图,为该专利中发明的AI芯片中主动电源管理控制系统的示意图,系统100中包含有多个GPU(102),这些GPU通过数字通信总线与其他部件互相通信。在供电方面,这些GPU由配电网110供电,电源管理单元140监视着配电网供给的电流,同时电源管理单元接受由并行处理器116发送的功率控制指令。

基于GPU当前的工作功率以及处理器所发送的信号,电源管理单元可以预测处理器在未来时段所需要的电量,并控制提供给GPU的电压,以便于为GPU提供适当的功率。这样不仅可以保证GPU发挥稳定的性能,同时也可以控制GPU的功耗,更重要的是,通过预先在需要高功率的时段来限制其功率,可以避免出现电流过载的情况,否则可能导致电路损坏或者电源过热。

由此看来,电源管理模块的预测工作是十分重要的,在NVIDIA的方案中,使用基于硬件的深度学习加速器对于深度神经网络进行加速,从而对处理器的功耗进行预测。


AI芯片的动态功率控制技术解析

如上图,为预测GPU功率的功率控制技术流程图,首先,输入功率监视器采用ADC(数模转换芯片)来对于提供给GPU的电源进行采样,采样包括输入的电流以及电压,并将采样结果转换为数字信号输出。

其次,并行处理器接收预测功率信号的指令,这样可以确定预测的GPU功率与当前功率之间的差值,在确定误差之前,需要对预测功率进行缩放,以使其与当前功率处于正常的比例之中。

这种操作基于深度学习的方法,来更新自适应PID控制器,因为并行处理器的工作负载可以在短时间尺度上变化,因此,处理器可以主动控制输入到GPU的电源,并根据并行处理器中的工作负载变化来优化处理器的性能和功耗。


AI芯片的动态功率控制技术解析

如上图,为这种具有学习机制的实现主动电源管理技术的电路示意图,其中电路400包括ADC(118)、滤波和缩放器电路420、状态向量寄存器430、PID控制器440、电压控制器450以及学习系统460。

该专利中特别提及,虽然处理器可以通过对于指令进行解析,来估计是否需要更高或者更小的功率,但是处理器可能并不知道通过执行这种指定的指令具体需要消耗多少功率。

这就像一个长跑运动员,他可能大概知道在半程马拉松比赛中可能会消耗多少卡路里的能量,但是通常无法预测小段路途中的具体卡路里能量消耗,因为具体的能量消耗与太多的因素关联,例如环境条件、温度、实际速度以及自身体重等的变化。

所以,具体的电源使用情况还是取决于处理器的软件指令的特定顺序,尽管处理器可以预估消耗的功耗,并对GPU的功率进行大致的调整,但是由于制造工艺以及不同的计算任务,因此并不能精准的进行功耗控制。

以上就是NVIDIA发明的基于人工智能的芯片功耗控制系统,这种具有主动电源管理系统的GPU智能芯片,在保证芯片性能的前提下具有更高的可靠性,因此可用于需要高度可靠性的计算环境,例如:数据种心、服务器环境等。此外,在目前较为火热的智能驾驶领域中,这种方案不仅可以避免电流因为瞬间的下降而影响自动驾驶的通信信号,而且还可以通过实现更快的功率管理响应来改善车辆的功耗消耗。

关于嘉德


深圳市嘉德知识产权服务有限公司由曾在华为等世界500强企业工作多年的知识产权专家、律师、专利代理人组成,熟悉中欧美知识产权法律理论和实务,在全球知识产权申请、布局、诉讼、许可谈判、交易、运营、标准专利协同创造、专利池建设、展会知识产权、跨境电商知识产权、知识产权海关保护等方面拥有丰富的经验。
责任编辑:tzh

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    455

    文章

    50727

    浏览量

    423179
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4729

    浏览量

    128897
  • AI
    AI
    +关注

    关注

    87

    文章

    30754

    浏览量

    268902
  • 人工智能
    +关注

    关注

    1791

    文章

    47206

    浏览量

    238272
收藏 人收藏

    评论

    相关推荐

    深度解析研华全栈式AI产品布局

    在人工智能迈向边缘智能化的浪潮中,研华科技通过“Edge AI+生态协同”战略推动AIoT 2.0时代的产业落地。本文专访研华科技产品总监邱柏儒,深度解析研华全栈式AI产品布局、差异化技术
    的头像 发表于 12-05 09:51 219次阅读

    AI for Science:人工智能驱动科学创新》第二章AI for Science的技术支撑学习心得

    for Science的技术支撑”的学习心得,可以从以下几个方面进行归纳和总结: 1. 技术基础的深入理解 在阅读第二章的过程中,我对于AI for Science所需的技术基础有了
    发表于 10-14 09:16

    如何动态调整功率模块输出电压

    电子发烧友网站提供《如何动态调整功率模块输出电压.pdf》资料免费下载
    发表于 09-30 10:39 6次下载
    如何<b class='flag-5'>动态</b>调整<b class='flag-5'>功率</b>模块输出电压

    功放芯片功率小会出现什么样的效果

    杂音或破音。 动态范围受限 :功率小的功放芯片在处理大动态范围的音频信号时,可能无法完全还原信号的细节和层次,导致声音的动态范围受限,听起来
    的头像 发表于 09-29 16:57 637次阅读

    AI网络物理层底座: 大算力芯片先进封装技术

    随着人工智能(AI技术的迅猛发展,我们正站在第四次工业革命的风暴中, 这场风暴也将席卷我们整个芯片行业,特别是先进封装领域。Chiplet是实现单个芯片算力提升的重要
    发表于 09-11 09:47 642次阅读
    <b class='flag-5'>AI</b>网络物理层底座: 大算力<b class='flag-5'>芯片</b>先进封装<b class='flag-5'>技术</b>

    一文详解动态多点VPN技术

    引言 动态多点VPN(Dynamic Multipoint VPN)是mGRE、NHRP(Next Hop Resolution Protocol)、IPSec结合产生的一种技术,简写为DMVPN
    发表于 07-26 06:07

    功率芯片的原理和应用

    功率芯片是一种集成电路芯片,其核心功能在于控制和管理电能,广泛应用于各种电子设备中。以下将从功率芯片
    的头像 发表于 07-16 16:08 1392次阅读

    AI芯片哪里买?

    AI芯片
    芯广场
    发布于 :2024年05月31日 16:58:19

    risc-v多核芯片AI方面的应用

    多核芯片AI方面的应用具有广阔的前景和巨大的潜力。随着技术的不断进步和应用的深入,我们期待看到更多基于RISC-V多核芯片AI解决方案在
    发表于 04-28 09:20

    AI芯片未来会控制这个世界吗?

    AI芯片行业资讯
    芯广场
    发布于 :2024年03月27日 18:21:28

    功率因数线性恒流LED控制芯片

    概述 PCD3000BM是高功率因数线性恒流高压LED 驱动芯片,应用于 LED照明领域。该芯片通过独特的恒流控制专利技术,实现恒流精度小于
    发表于 03-26 09:44

    NanoEdge AI技术原理、应用场景及优势

    NanoEdge AI 是一种基于边缘计算的人工智能技术,旨在将人工智能算法应用于物联网(IoT)设备和传感器。这种技术的核心思想是将数据处理和分析从云端转移到设备本身,从而减少数据传输延迟、降低
    发表于 03-12 08:09

    英伟达将用AI设计AI芯片

    AI芯片行业资讯
    深圳市浮思特科技有限公司
    发布于 :2024年02月19日 17:54:43

    LED树木灯光亮化方案的设计与控制技术解析

    LED树木灯光亮化方案的设计与控制技术解析
    的头像 发表于 01-24 17:54 781次阅读
    LED树木灯光亮化方案的设计与<b class='flag-5'>控制</b><b class='flag-5'>技术</b><b class='flag-5'>解析</b>

    SAN的功率动态范围技术要求和测试方法

    今天我们继续学习SAN的功率动态范围技术要求和测试方法。看上去是功率的测试,实则与功率测量方法并不相同。
    的头像 发表于 01-22 09:30 1287次阅读
    SAN的<b class='flag-5'>功率</b><b class='flag-5'>动态</b>范围<b class='flag-5'>技术</b>要求和测试方法