0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI服务器当前的发展现状分析

智能计算芯世界 来源:常华Andy 2023-11-30 11:18 次阅读

考虑基础设施时,超大规模运算和云构建者谈论的是兆瓦、服务和存储的混合,以及在一兆瓦功率下提供的总容量。当然,他们还会思考预算,因为实际上资金投入是推动世界运转的动力。

我们像其他人一样关注性能、插槽和功耗,但更注重收入。因为收入是绩效评估的标准。因此,在两年没有看到IDC或Gartner的服务器追踪数据后,当我们本周在Google上搜索服务器预测时,出乎意料地发现了这一页,其中包含从2022年到2027年的大量数据。于是,我们拿出了可靠的Excel电子表格,并开始进行研究。

以下是IDC的图,展示了从2022年开始的全球服务器收入数据,以及2023年至2027年的预测:

8e910e56-8f10-11ee-939d-92fbcf53809c.jpg

我对这个图不太满意,因为IDC在增长率上使用了第二个Y轴,这在视觉上看起来像是趋近于零,但实际上是4.3%的增长率。我们重新制作了图,并将去年的数据从2021年添加到了数据中:

8e9d9540-8f10-11ee-939d-92fbcf53809c.jpg

以下是实际数据的表格形式:

8ea9ae84-8f10-11ee-939d-92fbcf53809c.jpg

这一数据集不仅呈现了服务器收入和未来五年的预测,还将X86和非X86服务器予以区分。在过去的十年里,这对很多人来说可能显得相当乏味,因为大约三分之二的非X86设备包括了IBM的Power Systems和System z大型机销售,其余则是其它专有机器和Arm服务器的混合。但随着超大规模运算和云构建者中Arm服务器的崛起,非X86业务变得愈发有趣。未来十年内,随着RISC-V设备逐渐普及,这种趋势将继续。因此,这并不是一种像你可能想象的那样过时的思考方式。

实际上,我们从IDC的服务器追踪器中获得了IBM System z和Power在2020年的收入数据,为48.8亿美元,这意味着在非X86类别中,Arm/其它占据了剩余的38.7亿美元。如果我们对IBM的产品未来做一些假设,例如2021年和2022年进行Power10和z16机器的升级周期,然后在2025年进行Power11和z17的升级周期,以及由于Power或z处理器中的计算量增长速度超过OLTP和其它计算需求而导致的普遍下降,那么我们可能会得到IBM服务器硬件销售逐渐下降的情况,从2020年的将近50亿美元下降到2026年可能是35亿美元,2027年可能是33亿美元。

如果我们这样做,并使用基准IDC数据,那么非X86业务中的Arm/其它部分将以非常健康的速度增长,再次取决于超大规模运算和云构建者的大量消费周期,他们无论如何都有一个不可避免的基线消费水平。因此,Arm和RISC-V服务器——我们认为主要是Arm服务器,即使在遥远的未来——将在每年约200亿美元左右。这约占Arm服务器10%的收入份额,与我们在一月份查看的一些Gartner和富国银行数据中提到的20%左右的Arm服务器出货份额并不相同。

由于许多超大规模运算和云构建者正在研发定制Arm服务器CPU和定制AI协处理器,选择范围很广,压力也在那里,不再仅限于使用X86服务器CPU和Nvidia GPU进行AI和其它计算密集型工作。

说到这一点,我们真正想了解的是,人工智能服务器的销售情况——主要用于训练,但也用于推理——与其它服务器采购有何不同。此外,我们还想知道通货膨胀对服务器制造商收入的影响,尤其是去年和今年制造商放松控制后的情况。GPU通货膨胀在其中占据了很大比重,因为需求过多而供应不足。

IDC在其报告中提到了以下观点:“通货膨胀对服务器的直接影响在2022年的每个季度都越来越强烈,截至2023年第二季度,年度平均销售价格(ASP)同比增长率升至29%,而出货量在2022年大部分时间都在10几个百分点,到2022年Q4下降到了仅1.4%,在2023年Q1同比下降了10%,目前在2023年Q2下降了19.9%。”

这些是出货量大幅下滑的情况,同时,由于每个节点搭载了四个或八个GPU,使得AI训练和推理节点的价格相当昂贵,每个节点的成本高达数十万美元。因此,AI服务器和非AI服务器需要区别对待,因为它们是市场上的两个截然不同的部分。根据IDC的数据,我们猜测2020年到2027年顶级服务器的收入如下:

8ec46602-8f10-11ee-939d-92fbcf53809c.jpg

我们意识到这里有一些猜测,但我们认为这是未来发展的形势,以及近年来正在发生的事情。

总的来说,除非有某种因素能够抑制AI模型的增长,或者AI训练和推理的计算成本能够降低,否则我们预测到2026年或2027年,AI计算将占据服务器收入的一半左右,这是一种非零的可能性。

该模型假设非AI服务器收入每年保持温和的类似GDP的增长率,这是在2022年开始的11.2%的相当陡峭的下降后,2023年仅减少5%。它还假设在2022年到2023年之间,AI服务器的收入将近五倍激增,然后在2024年保持相当健康的稳定状态增长,达到20%左右,逐渐减缓至2027年的15%。我们并没有强行推动AI服务器的增长,而是假设了类似我们过去所见的温和的增长/消费周期,然后剩下的一切都是为AI服务器保留的。

因此,当前所发生的这场革命就在眼前。随着Nvidia GPU供应量的增加和价格的下降,以及其它品牌的GPU和其它类型的加速器进入市场并逐渐形成规模效应,一切都将逐渐趋于平稳并逐渐正常化。也许。这一过程将在全新的层面上发生。

现在有一个问题:全球对AI的需求会是多少?我们承认,预测四五年后的需求确实非常困难。如果AI加速器仍然供不应求,价格保持高位,那么收入也将保持在高水平。如果产量翻倍或翻三倍,价格将减半或减少三分之二,但收入可能仍然保持一致。这是我们的观点,供大家讨论。

显然,当涉及到毛利润率时,没有公司愿意通过增加产量来解决问题。然而,激烈的竞争,就像Nvidia所经历的那样,往往迫使公司采取这种措施。

从1985年到2000年,RISC/Unix机器以及互联网技术的兴起,以及对大型机和专有小型计算机的积极更替,花了近15年的时间,才达到了服务器收入的45%的份额。而从2010年到2025年或2011年到2026年,无论你如何称呼这段时间,AI服务器可能需要同样的时间,在全球服务器收入中占据45%的份额。而且AI工作负载可能会替代或增强你能想到的几乎所有类型的应用。

审核编辑:黄飞

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4703

    浏览量

    128715
  • 服务器
    +关注

    关注

    12

    文章

    9028

    浏览量

    85196
  • AI
    AI
    +关注

    关注

    87

    文章

    30212

    浏览量

    268454
  • X86
    X86
    +关注

    关注

    5

    文章

    294

    浏览量

    43405
  • AI服务器
    +关注

    关注

    2

    文章

    102

    浏览量

    4879

原文标题:AI服务器何时将主导市场?

文章出处:【微信号:AI_Architect,微信公众号:智能计算芯世界】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    医疗机器人发展现状与趋势

    医疗机器人作为医疗领域与现代机器人科技的融合体,正逐步引领医疗服务向更高效、更精准的方向发展。以下是对医疗机器人发展现状与趋势的详细分析
    的头像 发表于 10-21 15:24 1561次阅读

    什么是AI服务器AI服务器的优势是什么?

    AI服务器是一种专门为人工智能应用设计的服务器,它采用异构形式的硬件架构,通常搭载GPU、FPGA、ASIC等加速芯片,利用CPU与加速芯片的组合来满足高吞吐量互联的需求,为自然语言处理、计算机视觉、机器学习等人工智能应用场景提
    的头像 发表于 09-21 11:43 651次阅读

    AI服务器:开启智能计算新时代

    一、AI服务器的定义与特点 AI服务器的定义 AI服务器是一种基于云计算技术,专为处理人工
    的头像 发表于 08-09 16:08 738次阅读

    探索新潮流 — AI服务器引领数据中心的发展

    电子发烧友网站提供《探索新潮流 — AI服务器引领数据中心的发展.pdf》资料免费下载
    发表于 07-26 13:35 324次下载

    AI服务器的特点和关键技术

    AI服务器,即人工智能服务器,是一种专门设计用于运行和加速人工智能(AI)算法与模型的硬件设备。随着人工智能技术的快速发展和普及,
    的头像 发表于 07-17 16:34 1343次阅读

    AI服务器的用途、特点、应用场景及发展趋势

    AI服务器的用途、特点、应用场景以及发展趋势。 一、AI服务器的用途 数据处理和分析
    的头像 发表于 07-02 09:53 1678次阅读

    ai服务器是什么架构类型

    AI服务器,即人工智能服务器,是专门为人工智能应用设计的高性能计算服务器AI服务器的架构类型有
    的头像 发表于 07-02 09:51 944次阅读

    ai服务器和通用服务器的区别在哪

    AI服务器和通用服务器的区别主要体现在以下几个方面: 硬件配置 AI服务器和通用服务器在硬件配置
    的头像 发表于 07-02 09:46 890次阅读

    差分晶振在AI服务器中的应用案例

    随着ChatGPT技术不断发展和应用,我国AI服务器市场保持较快增速(预计 2023年我国服务器市场规模将增至308亿美元),而AI
    发表于 06-17 15:15 1次下载

    RISC-V在服务器方面应用与发展前景

    RISC-V在服务器方面的应用与发展前景十分广阔。作为一种开源、开放、简洁、灵活的指令集,RISC-V近年来在芯片产业中发展迅速,并逐渐引领新一轮处理芯片技术与产业的变革浪潮。 在
    发表于 04-28 09:04

    STM32国内外发展现状

    电子发烧友网站提供《STM32国内外发展现状.docx》资料免费下载
    发表于 04-08 15:56 28次下载

    AI服务器简介及晶振应用

    AI服务器,是一种专门用于处理人工智能相关任务的高性能计算机。它具备强大的计算能力和存储能力,能够快速处理大量的数据和复杂的算法。与传统的计算设备相比,AI服务器具有更高的计算效率和更
    的头像 发表于 12-25 10:45 1097次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>服务器</b>简介及晶振应用

    物理服务器ai发展的应用

    物理服务器AI发展中扮演着重要的角色。传统的以CPU为计算部件的服务器架构已难以满足人工智能的新需求,因此,"CPU+ GPU/FPGA/ASIC"的异构计算架构成为人工智能
    的头像 发表于 12-22 09:19 428次阅读

    YXC晶振解决方案AI服务器中的应用

    AI服务器常用频点:50MHZ、125MHZ、156.25MHZ,适用于AI服务器的YXC差分晶振
    的头像 发表于 12-18 18:06 489次阅读
    YXC晶振解决方案<b class='flag-5'>AI</b><b class='flag-5'>服务器</b>中的应用

    AI发展服务器的选择非常重要

    AI发展下,服务器的选择非常重要。以下是一些选择服务器时需要考虑的因素。
    的头像 发表于 12-07 10:06 484次阅读