0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI 工作负载的电源

李芳 来源:fgfFsG 作者:fgfFsG 2022-08-08 11:14 次阅读

AI 无处不在的性质不仅限于数据中心,也不在 MIT Python 程序员的头脑中。它可以在我们当地的超市中以自导机器人的形式在过道中漫游,使用卷积神经网络 (CNN) 和其他方式嵌入机场安全摄像头。

无论 AI 接口是什么——一个眼睛粘糊糊的超市机器人,或者一个性感的澳大利亚女声给我们指着一个好酒吧——工作负载需要在某种基于 CPUGPU 的系统上处理,比如来自 Nvidia 的 DGX。

因为有这么多不同类型的 AI,所以没有一种最适合的硬件来处理工作负载。正如英特尔的Naveen Rao所说,“客户发现没有单一的‘最佳’硬件来运行各种 AI 应用程序,因为没有单一类型的 AI。” 无论为 AI 应用程序选择哪种硬件,肯定有一个共同点:处理工作负载的每台设备都需要有电源

美元数据

对于 IT 经理来说,人工智能对计算服务器所需的功率产生了相当大的影响。服务器机架的平均功耗通常为 7 kW;但是,AI 应用程序每个机架可能使用超过 30 kW。增加千瓦是必需的,因为 AI 需要更高的处理器利用率,例如在 GPU 类型服务器上运行的应用程序——它们每个芯片需要两倍的功率。

当然,如果您的设施功率受限,您可以尝试四处移动数据,但这可能需要比处理数据更多的能量,而且功率消耗始终与移动中的数据量有关。简而言之,与数据传输相关的成本很高。

例如,尽管有许多云提供商(AWS、Azure、Google 等)可供选择,但许多公司都面临与复杂数据传输价格相关的隐藏成本。解决这一困境的一个可行的解决方案不是移动数据,而是在更接近起源点的地方处理它——这创造了对边缘计算的另一种需求。

用小网络解决大问题

边缘计算有望成为另一个无处不在且备受期待的数据进步(称为 5G)的支柱。5G 预期的 1 毫秒延迟时间需要许多分布式处理区域(也称为边缘网络)的支持。基于边缘的服务器需要更靠近个人流式传输 4K 视频和最终 8K 格式的视频,以及用于监控智能城市中行人和交通活动的摄像头等应用程序——而这一切都无需将其发送到云端。

此外,还需要边缘网络来支持自动驾驶汽车。这种优雅的新数据流挂毯的核心将是人工智能近乎实时地处理信息

目前,所有 AI 应用程序都运行在基于硅的计算硬件上,无论是在智能手机内置的定制芯片中、在边缘计算服务器内部署的 FPGA 中,还是在专门构建的以 AI 为重点的系统中,例如来自 Nvidia 的 DGX,可通过公共云访问。

并且该硬件都需要电源,无论是直流电(如电池)还是交流电(来自电网)。它还需要物理系统之间的连接,无论是通过铜缆还是光纤数据连接。

断电是AI的氪石

人工智能似乎对人类具有前所未有的价值。然而,当遇到断电时,它会崩溃并停止运作——就像超人对氪石的反应一样。将 AI 与这种能量克星隔离并降低故障风险的解决方案是确保可靠的功率流。

具有每插座功率感应功能的开关 PDU将使边缘数据中心能够最大限度地延长所有需要近实时处理的 AI 应用程序的正常运行时间。在这种环境下,选择可靠的 PDU 为交通控制信号和中继站的 AI 工作负载供电非常重要,急救人员使用这些工作负载为救护车、消防和执法服务提供调度和紧急数字通信。

鉴于这些关键任务的情况,智慧城市需要智能电源设备来确保其 5G 服务畅通无阻。使用远程监控和管理的数据中心 PDU还有助于监控机柜内的温度和环境条件。

回到数据中心和主机托管设施,人们正在更换基于 CPU 的服务器以获得更强大的 GPU 系统人工智能处理能力,当 C13 和 C19 插座的更大组合时,拥有可扩展的机架式 PDU真的会派上用场需要——正在创建 30 kW 机架的过程中。

审核编辑 黄昊宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 电源
    +关注

    关注

    184

    文章

    17573

    浏览量

    249476
  • AI
    AI
    +关注

    关注

    87

    文章

    30106

    浏览量

    268393
  • 工作负载
    +关注

    关注

    0

    文章

    8

    浏览量

    1947
收藏 人收藏

    评论

    相关推荐

    AI算力芯片供电电源测试利器:费思低压大电流系列电子负载

    AI算力芯片作为驱动复杂计算任务的核心引擎,其性能与稳定性成为了决定应用成败的关键因素。而在这背后,供电电源的稳定性和高效性则是保障AI算力芯片持续、稳定工作的基石。今天,我们就来揭秘
    的头像 发表于 10-25 11:26 246次阅读
    <b class='flag-5'>AI</b>算力芯片供电<b class='flag-5'>电源</b>测试利器:费思低压大电流系列电子<b class='flag-5'>负载</b>

    负载组测试如何工作?#负载 #负载

    负载
    深圳崧皓电子
    发布于 :2024年08月21日 07:12:48

    开关电源负载电阻的概念和作用

    开关电源负载电阻在电子设备和系统中扮演着至关重要的角色。它不仅影响电源的性能和稳定性,还直接关系到电路的整体工作效率。以下将详细阐述开关电源
    的头像 发表于 08-07 15:22 622次阅读

    开关电源接假负载的原因

    开关电源工作时,若没有接负载负载过轻,可能导致电源输出端电压过高,进而损坏电源或其他电路元件
    的头像 发表于 04-02 11:09 828次阅读

    CC工作模式下电子负载运用

    电子负载是测试电源、电池和其他电子设备性能的设备。在真实世界负载的模拟条件下。CC工作模式是电子负载最常见和最重要的
    的头像 发表于 03-04 16:21 1086次阅读
    CC<b class='flag-5'>工作</b>模式下电子<b class='flag-5'>负载</b>运用

    直流电源负载效应概念

    直流电源的输出功率不是绝对恒定的。如当直流电源工作在恒定电压下时,由于输入电压或负载的变化,输出电压可能会引起输出电压的微小变化。当直流电源
    的头像 发表于 02-22 13:39 850次阅读
    直流<b class='flag-5'>电源</b><b class='flag-5'>负载</b>效应概念

    开关电源是阻性负载还是感性负载

    开关电源适用于各种不同类型的负载,无论是阻性负载还是感性负载都可以正常工作。但是,具体使用哪种类型的负载
    的头像 发表于 02-06 09:25 2648次阅读

    如何选择合适的负载功率来确保电源适配器的正常工作

    负载功率对电源适配器有何影响?如何选择合适的负载功率来确保电源适配器的正常工作负载功率对
    的头像 发表于 01-30 16:51 1028次阅读

    浅析电子负载常见的的四种工作模式

    浅析电子负载常见的的四种工作模式 电子负载是电子设备的一种,用于模拟负载并测试电源的性能。它在电子行业和电力领域有广泛的应用。电子
    的头像 发表于 01-22 13:43 2279次阅读

    开关电源中什么是负载调整率?如何去测?

    开关电源中什么是负载调整率?如何去测? 负载调整率是指开关电源负载变化时稳定输出电压的能力。负载
    的头像 发表于 01-19 14:56 3008次阅读

    最常见的直流负载工作方式

    最常见的直流负载工作方式  直流负载工作方式是指在直流电路中使用的各种负载方式。直流负载是用于测
    的头像 发表于 01-18 15:12 692次阅读

    直流电子负载与交流负载的区别

    用于测试和仿真直流电源负载能力,其工作原理是通过调整负载的电阻值来吸收直流电源的电能。直流电子负载
    的头像 发表于 01-18 14:13 1271次阅读

    在发电系统中负载器有什么用?负载器是什么工作原理和结构?

    在发电系统中负载器有什么用?负载器是什么工作原理和结构? 负载器在发电系统中起到了至关重要的作用。它们用来连接到电源系统的
    的头像 发表于 01-04 15:29 805次阅读

    电源负载动态响应测试方法

    电源负载动态响应测试方法  电源负载动态响应测试是电源测试中的一个重要环节,它可以评估电源
    的头像 发表于 12-19 13:47 2226次阅读

    电源为何需要进行负载保护 航裕电源负载的保护措施

    的关系,那么负载电源在使用中,将出现震荡、短路等多种故障,甚至破坏电源负载。 为了适应感性、容性、阻性等不同性质负载的正常使用要求,航裕
    的头像 发表于 12-11 12:30 1366次阅读
    <b class='flag-5'>电源</b>为何需要进行<b class='flag-5'>负载</b>保护 航裕<b class='flag-5'>电源</b>对<b class='flag-5'>负载</b>的保护措施