据悉,NVIDIA H100 GPU的交货期已由原来的8至11个月大幅度压缩为如今的3至4个月,使部分屯货公司寻求出售剩余的H100 80GB处理器。如今在诸如亚马逊云服务、谷歌云及微软Azure等大型云服务供应商处租赁芯片更为便捷。
根据The Information报导,由于芯片供应状况改善、交货期的骤然缩短,一些公司开始抛售他们所持有的GPU或削减订单。然而,尽管如此,AI芯片需求仍大于供应,特别是OpenAI之类的大型语言模型训练机构。
一些云服务提供商,如亚马逊AWS,提供按需租用H100 GPU的服务,缓解了消费者的购买压力。尽管如此,由于大规模的语言模型训练以数以万计的GPU进行,瓶颈仍在,这些机构有时需要耐心等待数月以获取所需处理能力。因此,NVIDIA H100等处理器的价格依旧居高不下,相关公司继续赚取丰厚利润。
值得关注的是,随着供货紧张的缓解,买方行为亦有所改变。如今企业更多地考虑价格和资产购置/租赁的合理性,偏好较小规模的GPU集群并关注商业的财务效益。
随着替代产品如AMD和AWS处理器的性能提升和软件服务的完善,加之对AI处理器投资更加审慎,预示着未来AI市场可能会趋于平衡。
-
NVIDIA
+关注
关注
14文章
4985浏览量
103025 -
语言模型
+关注
关注
0文章
523浏览量
10273 -
AI芯片
+关注
关注
17文章
1885浏览量
35009
发布评论请先 登录
相关推荐
评论