0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英伟达H100 GPU交货等待时间大幅缩短

微云疏影 来源:综合整理 作者:综合整理 2024-04-11 10:48 次阅读

据Digitimes报道,因NVIDIA H100 GPU广泛应用于人工智能计算,造成其供需失衡。如今,根据台湾地区总经理Terence Liao介绍,近期该产品交货周期已大幅度缩短,由原先的3-4个月缩减为当前的2-3个月(即8-12周)。同时,服务器制造商也证实,相较于2023年几乎无法购买到H100的状况,目前供应紧张局面正逐渐得到缓解。

尽管交货周期有所缩短,Liao强调,人工智能硬件市场需求依然强劲。尽管价格较高,但人工智能服务器的采购量正在超过普通服务器。他指出,过长的交付周期是导致需求看似持续增长的主因。

值得关注的是,目前2-3个月的交货周期已是NVIDIA H100 GPU历史最短纪录。仅在半年前,等待期还长达11个月,大部分客户需等待近一年才能获得所需的人工智能GPU。

自2024年初起,H100 GPU交货周期持续明显缩短。今年初,等待期已由数月缩短至3-4个月;现今再度缩短一个月。按照此趋势,预计今年底或更早,无需再等待。

部分原因可能源于部分公司持有过多的H100 GPU库存,并选择出售以降低库存维护成本。此外,亚马逊科技(AWS)提供云端租赁服务,使得用户能够更加便捷地使用H100 GPU,从而缓解了部分需求压力。

现阶段,仅有少数大型企业如OpenAI等仍受供应限制影响,因其正在开发自身的大型语言模型(LLM)。由于此类模型训练需大量GPU支持,故这些企业仍面临供应难题。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4795

    浏览量

    129502
  • 服务器
    +关注

    关注

    12

    文章

    9342

    浏览量

    86207
  • 人工智能
    +关注

    关注

    1797

    文章

    47867

    浏览量

    240850
收藏 人收藏

    评论

    相关推荐

    英伟A100H100比较

    英伟A100H100都是针对高性能计算和人工智能任务设计的GPU,但在性能和特性上存在显著差异。以下是对这两款
    的头像 发表于 02-10 17:05 815次阅读
    <b class='flag-5'>英伟</b><b class='flag-5'>达</b>A<b class='flag-5'>100</b>和<b class='flag-5'>H100</b>比较

    英伟H100芯片市场降温

    随着英伟新一代AI芯片GB200需求的不断攀升,其上一代明星产品H100芯片却遭遇了市场的冷落。据业内人士透露,搭载H100的服务器通常以8卡的形式进行出售或出租,而在去年,这类服务
    的头像 发表于 10-28 15:42 870次阅读

    亚马逊云科技宣布Amazon EC2 P5e实例正式可用 由英伟H200 GPU提供支持

    现已正式可用。亚马逊云科技是首个将英伟H200 GPU用于生产环境的领先云提供商。与基于英伟
    的头像 发表于 09-19 16:16 577次阅读

    英伟或取消B100转用B200A代替

    今年3月份,英伟在美国加利福尼亚州圣何塞会议中心召开的GTC 2024大会上推出了Blackwell架构GPU。原定于今年底出货的B100/B200被寄予厚望,将替代现行
    的头像 发表于 08-08 17:19 615次阅读

    进一步解读英伟 Blackwell 架构、NVlink及GB200 超级芯片

    冷却技术,提高计算密度,减少占地面积,并通过高带宽、低延迟的GPU通信,有效减少数据中心的碳足迹和能源消耗。相较于传统的NVIDIA H100风冷基础设施,GB200在相同功耗下实现25倍的性能提升
    发表于 05-13 17:16

    英伟芯片“倒爷”风光不再,市场热度降温

    中国的大模型业进入了“百模大战”时间英伟面向中国客户推出H800,这个版本被俗称为H100的“阉割版”,
    的头像 发表于 04-17 10:07 724次阅读

    英伟预计2026年营收将超1300亿美元,AI领域仍居主导地位

    该分析师特别指出,英伟已在AI GPU市场拥有绝对优势,现阶段主流产品H100 AI GPU表现强劲,预计明后年还将推出
    的头像 发表于 03-14 14:36 719次阅读

    英伟H200上市时间

    英伟H200于2023年11月13日正式发布。然而,由于HBM3e芯片供应问题,其实际开售时间有所延迟。英伟
    的头像 发表于 03-07 16:46 2671次阅读

    英伟H200带宽狂飙

    英伟H200带宽的显著提升主要得益于其强大的硬件配置和先进的技术创新。H200配备了高达141GB的HBM3e显存,与前代产品H100相比
    的头像 发表于 03-07 16:44 1099次阅读

    英伟H200和A100的差异

    英伟H200和A100在多个方面存在差异。
    的头像 发表于 03-07 16:18 3130次阅读

    英伟H200显卡价格

    英伟H200显卡的具体价格尚未公布。根据上一代H100显卡的价格范围,预计H200的单片价格将超过40000美元。由于新芯片通常定价较高,
    的头像 发表于 03-07 16:09 6581次阅读

    英伟H200和H100的比较

    英伟H200和H100是两款不同的AI芯片,它们各自具有独特的特点和优势。以下是关于这两款芯片的一些比较。
    的头像 发表于 03-07 15:53 5662次阅读

    NVIDIA H100 GPU交货周期缩短,部分公司转向销售或减单

    根据The Information报导,由于芯片供应状况改善、交货期的骤然缩短,一些公司开始抛售他们所持有的GPU或削减订单。然而,尽管如此,AI芯片需求仍大于供应,特别是OpenAI之类的大型语言模型训练机构。
    的头像 发表于 02-27 14:56 873次阅读

    英伟大幅缩短AI GPU交付周期

    根据瑞银分析师最近提供给投资者的备忘录,英伟已经显著缩短了其AI GPU的交付周期。这一周期已经从去年年底的8-11个月迅速缩短至目前的3
    的头像 发表于 02-18 17:31 932次阅读

    英伟缩短AI GPU交付周期,持续推进算力产业链发展

    与此同时,随着人工智能的迅猛发展及其广泛应用,对像H100和A100这类专为数据中心设计的高性能GPU的需求也大幅增长。而包括Yotta在内的多家公司因此纷纷加大向
    的头像 发表于 02-18 09:36 597次阅读