0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

H100 GPU供应改善,AI市场需求依旧强劲

微云疏影 来源:综合整理 作者:综合整理 2024-02-29 16:10 次阅读

据海外报道,NVIDIA目前热门AI芯片H100的交货周期已明显缩短,先前需半年,现仅需三四个月即可。此外,由于各大云服务供应商如AWS、谷歌云和Microsoft Azure提供便捷的AI计算服务,使得之前批量采购H100 GPU的企业决定出售。

值得注意的是,H100 GPU的供求关系已经缓解,且维护成本高起,部分客户正在置换这类硬件以转向云服务,这种转变在过去的市场紧缩中很少见到。同时,市场上虽然有其他选择如AMD的MI300 GPU,性能稳定且价格低廉。

根据TrendForce研究机构预测,2024年全球高级AI服务器需求将激增至1.5亿台,NVIDIA、AMD等领先ASIC芯片厂商将主导这一市场,分别占据至少六七成以上份额。其中,NVIDIA的H100芯片仍处于前列,预计于2024年在整体需求中的占比逾70%。

然而,NVIDIA在AI领域面临潜在威胁。首当其冲的便是美国对华科技出口限制,这可能减损NVIDIA在中国市场的销售业绩;其次,大型科技公司亚马逊AWS、Google、Microsoft和Meta等已经开始研发自有的ASIC芯片;再者,AMD以其高性价比产品给NVIDIA造成竞争压力,尤其在旗舰客户市场的争夺上,预计到2024年,Microsoft将成为AMD Mi300 GPU解决方案的最大客户之一。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • amd
    amd
    +关注

    关注

    25

    文章

    5466

    浏览量

    134089
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4729

    浏览量

    128890
  • AI芯片
    +关注

    关注

    17

    文章

    1879

    浏览量

    34990
收藏 人收藏

    评论

    相关推荐

    华迅光通AI计算加速800G光模块部署

    ,都需要更多的光模块来进行光纤通信。对于使用gpu的广泛AI训练应用,在NVIDIA的DGX H100服务器中,集成了8个H100 gpu
    发表于 11-13 10:16

    英伟达H100芯片市场降温

    随着英伟达新一代AI芯片GB200需求的不断攀升,其上一代明星产品H100芯片却遭遇了市场的冷落。据业内人士透露,搭载H100的服务器通常以
    的头像 发表于 10-28 15:42 504次阅读

    GPU需求高涨,原厂竞相把握HBM3e市场机遇

    AI芯片需求在人工智能浪潮中持续攀升,近期消息显示,不仅HBM(高带宽存储器)出现供不应求、原厂积极扩产的情况,英伟达Blackwell架构的GPU也面临市场需求远超
    的头像 发表于 10-15 14:25 458次阅读

    日月光投控迎来先进封装技术的强劲市场需求

    日月光投控(股票代码3711)紧跟AI技术浪潮,迎来了先进封装技术的强劲市场需求。公司营运长吴田玉在昨日(25日)的线上业绩说明会上宣布,原本设定的今年先进封装业务营收增长2.5亿美元(折合新台币
    的头像 发表于 07-26 14:28 561次阅读

    韩国半导体库存大幅减少,显示AI技术需求强劲

    韩国国家统计局最新数据显示,该国半导体库存自2014年以来出现最大降幅,凸显出当前市场需求强劲
    的头像 发表于 06-03 11:15 508次阅读

    首批1024块H100 GPU,正崴集团将建中国台湾最大AI计算中心

    中国台湾当地正崴集团5月27日宣布,将与日本公司Ubitus共同打造人工智能(AI)计算中心,其中第一期将导入128个机柜,共计1024张英伟达H100旗舰计算卡,旨在构建台湾最大的AI计算中心。
    的头像 发表于 05-29 10:05 1105次阅读

    英伟达H100 GPU交货等待时间大幅缩短

    尽管交货周期有所缩短,Liao强调,人工智能硬件市场需求依然强劲。尽管价格较高,但人工智能服务器的采购量正在超过普通服务器。他指出,过长的交付周期是导致需求看似持续增长的主因。
    的头像 发表于 04-11 10:48 674次阅读

    英伟达预计2026年营收将超1300亿美元,AI领域仍居主导地位

    该分析师特别指出,英伟达已在AI GPU市场拥有绝对优势,现阶段主流产品H100 AI GPU
    的头像 发表于 03-14 14:36 539次阅读

    英伟达H200和H100的比较

    英伟达H200和H100是两款不同的AI芯片,它们各自具有独特的特点和优势。以下是关于这两款芯片的一些比较。
    的头像 发表于 03-07 15:53 4591次阅读

    戴尔绩后暴涨20% AI服务器需求激增

    尽管面临先进计算机芯片供应瓶颈,戴尔科技依然努力满足市场需求。Jeff Clarke表明,尽管需求持续高涨,但公司看到英伟达H100芯片交货时间有所
    的头像 发表于 03-01 15:53 953次阅读

    NVIDIA H100 GPU交货周期缩短,部分公司转向销售或减单

    根据The Information报导,由于芯片供应状况改善、交货期的骤然缩短,一些公司开始抛售他们所持有的GPU或削减订单。然而,尽管如此,AI芯片
    的头像 发表于 02-27 14:56 732次阅读

    美光科技启动高带宽存储芯片生产 为英伟达最新AI芯片提供支持

    英伟达下一代H200图形处理器将采用美光HBM3E芯片,预计于今年第2季交付,有望超越现有的H100芯片,为美光科技贡献更高业绩。此外,龙头厂商SK海力士等供应AI HBM(高宽带存
    的头像 发表于 02-27 09:33 682次阅读

    英伟达:预计下一代AI芯片B100短缺,计划扩产并采用新架构

    近期热门的 H100 芯片运期短缩数天后,英伟达新型 AI 旗舰芯片 B100搭载全新的 Blackwell,有望使 AI 计算性能提升至 2~3 倍。鉴于
    的头像 发表于 02-25 09:29 909次阅读

    Meta计划至2024年末购买35万张H100加速卡

    扎克伯格并未披露BIN为应对日益增加的人工智能需求添购的具体数量。市场研究机构雷蒙德詹姆斯的分析师根据推测,每颗H100系列芯片单价可能在2.5万至3万美金之间,若按照最低标准计算,购置成本将超过10亿美金。
    的头像 发表于 01-19 10:25 761次阅读

    AI计算需求激增,英伟达H100功耗成挑战

    根据预测,若H100的年利用率保持在61%,那么单台设备每年将耗电3740千瓦小时左右。如果英伟达在2023年售出150万块H100,2024年再增加至200万块,那么到2024年底,将有350万块H100芯片投入使用,其总年用
    的头像 发表于 12-28 09:29 2404次阅读