0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA H100 GPU交货周期缩短,部分公司转向销售或减单

微云疏影 来源:综合整理 作者:综合整理 2024-02-27 14:56 次阅读

据悉,NVIDIA H100 GPU的交货期已由原来的8至11个月大幅度压缩为如今的3至4个月,使部分屯货公司寻求出售剩余的H100 80GB处理器。如今在诸如亚马逊云服务、谷歌云及微软Azure等大型云服务供应商处租赁芯片更为便捷。

根据The Information报导,由于芯片供应状况改善、交货期的骤然缩短,一些公司开始抛售他们所持有的GPU或削减订单。然而,尽管如此,AI芯片需求仍大于供应,特别是OpenAI之类的大型语言模型训练机构。

一些云服务提供商,如亚马逊AWS,提供按需租用H100 GPU的服务,缓解了消费者的购买压力。尽管如此,由于大规模的语言模型训练以数以万计的GPU进行,瓶颈仍在,这些机构有时需要耐心等待数月以获取所需处理能力。因此,NVIDIA H100等处理器的价格依旧居高不下,相关公司继续赚取丰厚利润。

值得关注的是,随着供货紧张的缓解,买方行为亦有所改变。如今企业更多地考虑价格和资产购置/租赁的合理性,偏好较小规模的GPU集群并关注商业的财务效益。

随着替代产品AMD和AWS处理器的性能提升和软件服务的完善,加之对AI处理器投资更加审慎,预示着未来AI市场可能会趋于平衡。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    4985

    浏览量

    103025
  • 语言模型
    +关注

    关注

    0

    文章

    523

    浏览量

    10273
  • AI芯片
    +关注

    关注

    17

    文章

    1885

    浏览量

    35009
收藏 人收藏

    评论

    相关推荐

    《CST Studio Suite 2024 GPU加速计算指南》

    和不支持的NVIDIA GPU硬件,如支持的有L40S、RTX 5000 Ada Gen等,不支持的如Kepler和Maxwell部分型号被标记为弃用。同时提到GPU计算要求64位计算
    发表于 12-16 14:25

    英伟达H100芯片市场降温

    随着英伟达新一代AI芯片GB200需求的不断攀升,其上一代明星产品H100芯片却遭遇了市场的冷落。据业内人士透露,搭载H100的服务器通常以8卡的形式进行出售出租,而在去年,这类服务器的售价普遍
    的头像 发表于 10-28 15:42 531次阅读

    创业公司转向RTX 4090因NVIDIA中国特供芯片价格高昂

    8月14日最新消息指出,据多方媒体报道,NVIDIA的A100H100等高端芯片因受限已有一年半之久,尽管公司随后推出了专为中国市场设计的H
    的头像 发表于 08-15 14:28 461次阅读

    首批1024块H100 GPU,正崴集团将建中国台湾最大AI计算中心

    中国台湾当地正崴集团5月27日宣布,将与日本公司Ubitus共同打造人工智能(AI)计算中心,其中第一期将导入128个机柜,共计1024张英伟达H100旗舰计算卡,旨在构建台湾最大的AI计算中心。
    的头像 发表于 05-29 10:05 1111次阅读

    英伟达H100 GPU交货等待时间大幅缩短

    尽管交货周期有所缩短,Liao强调,人工智能硬件市场需求依然强劲。尽管价格较高,但人工智能服务器的采购量正在超过普通服务器。他指出,过长的交付周期是导致需求看似持续增长的主因。
    的头像 发表于 04-11 10:48 676次阅读

    英特尔发布人工智能芯片新版,对标Nvidia

    为应对AI行业对高性能芯片的巨大需求,英特尔推出了全新Gaudi 3芯片,据称这一款芯片在训练大语言模型方面的速度较之NVIDIA最新H100处理器要快50%。而且,其推理运算速度也超过了部分
    的头像 发表于 04-10 09:26 361次阅读

    英伟达H200和H100的比较

    英伟达H200和H100是两款不同的AI芯片,它们各自具有独特的特点和优势。以下是关于这两款芯片的一些比较。
    的头像 发表于 03-07 15:53 4618次阅读

    H100 GPU供应改善,AI市场需求依旧强劲

    值得注意的是,H100 GPU的供求关系已经缓解,且维护成本高起,部分客户正在置换这类硬件以转向云服务,这种转变在过去的市场紧缩中很少见到。同时,市场上虽然有其他选择如AMD的MI30
    的头像 发表于 02-29 16:10 706次阅读

    英伟达繁荣背后的挑战 仍面临着各种内忧外患

    为抢占AI商机,英特尔和AMD都紧跟着NVIDIA脚步,在NVIDIA率先推出采用台积电4nm的H100后,AMD于去年推出首批应用于AI和HPC的“Instinct MI300系列”,其中MI300X更是在
    的头像 发表于 02-21 14:16 798次阅读
    英伟达繁荣背后的挑战 仍面临着各种内忧外患

    英伟达大幅缩短AI GPU交付周期

    根据瑞银分析师最近提供给投资者的备忘录,英伟达已经显著缩短了其AI GPU的交付周期。这一周期已经从去年年底的8-11个月迅速缩短至目前的3
    的头像 发表于 02-18 17:31 853次阅读

    英伟达缩短AI GPU交付周期,持续推进算力产业链发展

    与此同时,随着人工智能的迅猛发展及其广泛应用,对像H100和A100这类专为数据中心设计的高性能GPU的需求也大幅增长。而包括Yotta在内的多家公司因此纷纷加大向英伟达的采购力度,导
    的头像 发表于 02-18 09:36 513次阅读

    巨头豪购35万块NVIDIA最强GPU H100

    NVIDIA AI GPU无疑是当下的硬通货,从科技巨头到小型企业都在抢。
    的头像 发表于 01-29 09:58 1093次阅读
    巨头豪购35万块<b class='flag-5'>NVIDIA</b>最强<b class='flag-5'>GPU</b> <b class='flag-5'>H100</b>

    NVIDIA H100交货周期长达10个月,台积电CoWoS月产能2025年

    半导体设备制造商表示,NVIDIA 沿用了 PC 显卡市场的策略,掌控了所有供应链和订单详情,且在价格和订单分配上拥有绝对话语权,因此并未出现市场普遍认为的过度预订现象。
    的头像 发表于 01-26 09:52 1025次阅读

    扎克伯格的Meta斥资数十亿美元购买35万块Nvidia H100 GPU

    万个NvidiaH100GPU,以帮助Meta构建具有类人智能的下一代人工智能产品。扎克伯格今天在宣布公司长期致力于开发通用人工智能(AGI)或能够学习并用于执行
    的头像 发表于 01-26 08:26 747次阅读
    扎克伯格的Meta斥资数十亿美元购买35万块<b class='flag-5'>Nvidia</b> <b class='flag-5'>H100</b> <b class='flag-5'>GPU</b>

    AI计算需求激增,英伟达H100功耗成挑战

    根据预测,若H100的年利用率保持在61%,那么台设备每年将耗电3740千瓦小时左右。如果英伟达在2023年售出150万块H100,2024年再增加至200万块,那么到2024年底,将有350万块
    的头像 发表于 12-28 09:29 2429次阅读