0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

微软砍单英伟达H100减少至8万台

晶扬电子 来源:晶扬电子 2023-12-13 11:45 次阅读

微软明年减少H100 订单至8 万台,大摩指出,但这是因为要改单拿B100,价格虽较H100 贵5 成,但算力是HBM 的2 倍,并会拿些许AMD MI300,而英伟达可能会延迟对台积电明年下半年CoWoS 产能的预付款,但这不是砍单,主要是B100 芯片产能需要2 倍的CoWoS 产能。

大摩表示,微软可能会将2024 年H100 AI 伺服器的订单,从12 万台减少至8 万台,并将部分订单转移到B100,预计2024 年第四季出货,因为B100 的运算能力至少是H100 的2 倍,但价格仅高出 50~60%。

大摩指出,微软从2024 年第二季开始将透过英业达将部分订单转移到MI300X,而且NVIDIA 在2024 年第二季对台积电CoWoS 产能的预付款可能会有所延迟,但这并不意味着NVIDIA 在2024 年对台积电CoWoS 的需求减少,反而是B100 需要2 倍的CoWoS 产能。

中国GPU 方面,大摩指出,美国商务部长提出警告,华盛顿将「改变」出口管制措施,以阻止NVIDIA 专门针对中国市场进行芯片改良,而L20S 的云端推理似乎符合效能密度规则,并没有使用高效能的HBM,并预计年底前就准备好出货,至于华为910B 需求畅旺,但代工能力却不足。

散热方面,大摩指出, 散热解决方案供应商预计AWS AI AISC 伺服器的出货量将在2023 年第四季成长,而AI AISC 的3D VC 售价接近100 美元,预计微软Maia 的水冷板出货量最快要到2024 年第一季增加。

2023年Q3,英伟达AI GPU销量达50万块

据市场跟踪公司 Omdia 的统计分析,英伟达在 2023 年第三季度大约卖出了 50 万台 H100 和 A100 GPU,此前,Omdia 通过英伟达第二季度的销售额,估计其大概卖出了 900 吨 GPU。据英伟达财报显示,在本财年第三季度,Nvidia 在数据中心硬件上获得了 145 亿美元的收入,比去年同期几乎翻了两番。这显然得益于随着人工智能和高性能计算(HPC)的发展而变得炙手可热的 H100 GPU。

416efeac-98d5-11ee-8b88-92fbcf53809c.jpg

市场跟踪公司 Omdia 表示,Nvidia 售出了近 50 万个 A100 和 H100 GPU,庞大的需求量也导致了,基于 H100 的服务器需要 36~52 周的时间才能交付。

Meta 和微软是最大买家。它们各自采购了多达 15 万个 H100 GPU,大大超过了谷歌、亚马逊、甲骨文和腾讯采购的数量(各 5 万个)。

英伟达明年推新AI芯片,加速CoWoS封装需求

人工智能(AI)芯片带动先进封装需求,市场预期AI芯片大厂英伟达(Nvidia)明年将推出新一代绘图芯片架构,加速CoWoS封装需求,台湾,韩国、美国、日本、甚至中国等半导体大厂,积极布局2.5D先进封装。

AI芯片带动先进封装需求,加速AI芯片效能,CoWoS先进封装扮演关键角色,不过CoWoS产能仍短缺,影响包括英伟达在内的大厂AI芯片出货进度。

天风国际证券分析师郭明錤预期,先进封装CoWoS供应在第4季可显著改善,有利未来生产能见度。美系外资法人表示,随着CoWoS产能扩充,英伟达AI芯片出货量看增,这也反向带动CoWoS产能需求成长。

外资评估,英伟达H100绘图芯片(GPU)模组第4季供应量可到80万至90万个,较第3季约50万个增加,预估明年第1季供应量可到100万个,主要是CoWoS产能持续提升。

至于CoWoS产能配置,外资法人评估,英伟达可从台积电取得5000至6000片CoWoS晶圆产量,也将从后段专业委外封测代工(OSAT)厂取得2000至3000片CoWoS产量。

市场预期,英伟达明年将推出新一代B100绘图芯片架构,外资和本土投顾评估,B100架构可能采用台积电的4纳米制程,推估采用结合2颗GPU晶粒和8颗高频宽记忆体(HBM ),因此也将带动CoWoS先进封装需求。

本土期货法人分析,CoWoS先进封装主要有3种技术架构,其中矽中介层(CoWoS-S)封装是目前主流,包括英伟达H100芯片和超微(AMD)MI300芯片均采用CoWoS-S封装,效能佳不过成本较高。

至于导入重布线层(RDL)的有机中介层(CoWoS-R)封装可降低成本,另外CoWoS-L封装在矽中介层加进主动元件LSI层提升芯片设计及封装弹性,可支援更多颗高频宽记忆体堆叠,预期明年CoWoS-R与CoWoS-L封装应用将明显增加。

台积电已卡位CoWoS先进封装3种技术架构,后段封测厂日月光半导体也布局扇出型FOCoS-Bridge(Fan-Out-Chip-on-Substrate-Bridge)封装技术,并推出跨平台整合的先进封装设计平台工具。

亚系外资和本土投顾指出,包括英特尔Intel)、韩国三星(Samsung)、艾克尔(Amkor)、联电、中国江苏长电、通富微电等也布局2.5D先进封装,此外,日本索尼(Sony)、力成、美国德州仪器TI)、韩国SK海力士(SK Hynix)等也急起直追。

417c5674-98d5-11ee-8b88-92fbcf53809c.jpg

值得注意的是,大多数服务器 GPU 都供应给了超大规模云服务提供商。而服务器原始设备制造商(如戴尔、联想、HPE)目前还无法获得足够的 AI 和 HPC GPU。

Omdia 预计,到 2023 年第四季度,Nvidia 的 H100 和 A100 GPU 的销量将超过 50 万台。

不过,几乎所有大量采购 Nvidia H100 GPU 的公司都在为人工智能、HPC 和视频工作负载开发定制自己的芯片。

因此,随着他们转向使用自己的芯片,对 Nvidia 硬件的采购量可能会逐渐减少。

审核编辑:黄飞

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 微软
    +关注

    关注

    4

    文章

    6593

    浏览量

    104048
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4735

    浏览量

    128919
  • 服务器
    +关注

    关注

    12

    文章

    9142

    浏览量

    85384
  • 英伟达
    +关注

    关注

    22

    文章

    3773

    浏览量

    91023

原文标题:传微软砍单英伟达H100

文章出处:【微信号:晶扬电子,微信公众号:晶扬电子】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    英伟H100芯片市场降温

    随着英伟新一代AI芯片GB200需求的不断攀升,其上一代明星产品H100芯片却遭遇了市场的冷落。据业内人士透露,搭载H100的服务器通常以8
    的头像 发表于 10-28 15:42 531次阅读

    英伟在AI芯片市场还能领先多久?

    7月22日,国际媒体传来消息,英伟在近年来兴起的生成式人工智能浪潮中脱颖而出,其高性能计算芯片如H100等广受业界青睐,推动了公司营收与利润的大幅增长。这一强劲表现不仅助力英伟
    的头像 发表于 07-22 16:18 582次阅读

    马斯克自曝训练Grok 3用了10块NVIDIA H100

    在科技界的前沿阵地上,埃隆·马斯克再次以其前瞻性的视野和大胆的尝试引领着新的风潮。近日,马斯克在社交媒体X上的一则回应,不经意间透露了其即将推出的AI聊天机器人Grok 3背后的惊人秘密——这款被马斯克誉为“非常特别”的AI产品,竟然是通过10英伟
    的头像 发表于 07-03 14:16 489次阅读

    英伟GB200芯片售价7美元,服务器单价或30

    汇丰银行分析师预测,英伟“入门级”B100 GPU的平均销售价将在33.5美元之间,与
    的头像 发表于 05-15 14:31 1935次阅读

    进一步解读英伟 Blackwell 架构、NVlink及GB200 超级芯片

    冷却技术,提高计算密度,减少占地面积,并通过高带宽、低延迟的GPU通信,有效减少数据中心的碳足迹和能源消耗。相较于传统的NVIDIA H100风冷基础设施,GB200在相同功耗下实现25倍的性能提升
    发表于 05-13 17:16

    英伟芯片“倒爷”风光不再,市场热度降温

    中国的大模型业进入了“百模大战”时间,英伟面向中国客户推出H800,这个版本被俗称为H100的“阉割版”,英伟
    的头像 发表于 04-17 10:07 641次阅读

    英伟H200带宽狂飙

    英伟H200带宽的显著提升主要得益于其强大的硬件配置和先进的技术创新。H200配备了高达141GB的HBM3e显存,与前代产品H100相比
    的头像 发表于 03-07 16:44 944次阅读

    英伟H200和A100的区别

    英伟H200和A100两款芯片在性能、架构、内存以及应用场景等多个方面存在显著的区别。
    的头像 发表于 03-07 16:23 3605次阅读

    英伟H200和A100的差异

    英伟H200和A100在多个方面存在差异。
    的头像 发表于 03-07 16:18 2553次阅读

    英伟H200显卡价格

    英伟H200显卡的具体价格尚未公布。根据上一代H100显卡的价格范围,预计H200的单片价格将超过40000美元。由于新芯片通常定价较高,
    的头像 发表于 03-07 16:09 4910次阅读

    英伟H200和H100的比较

    英伟H200和H100是两款不同的AI芯片,它们各自具有独特的特点和优势。以下是关于这两款芯片的一些比较。
    的头像 发表于 03-07 15:53 4618次阅读

    英伟:预计下一代AI芯片B100短缺,计划扩产并采用新架构

    近期热门的 H100 芯片运期短缩数天后,英伟新型 AI 旗舰芯片 B100搭载全新的 Blackwell,有望使 AI 计算性能提升至 2~3 倍。鉴于 AI 芯片市场需求旺盛,外
    的头像 发表于 02-25 09:29 919次阅读

    Meta计划2024年末购买35H100加速卡

    扎克伯格并未披露BIN为应对日益增加的人工智能需求添购的具体数量。市场研究机构雷蒙德詹姆斯的分析师根据推测,每颗H100系列芯片单价可能在2.53美金之间,若按照最低标准计算,购
    的头像 发表于 01-19 10:25 761次阅读

    AI计算需求激增,英伟H100功耗成挑战

    根据预测,若H100的年利用率保持在61%,那么设备每年将耗电3740千瓦小时左右。如果英伟在2023年售出150
    的头像 发表于 12-28 09:29 2429次阅读