MI300X是一款与NVIDIA旗舰显卡H100相媲美的产品。它拥有8个XCD核心,304组CU单元和8组HBM3核心。显存容量达到了192GB,相当于NVIDIA H100的2.4倍。同时,HBM内存带宽高达5.2TB/s,Infinity Fabric总线带宽也达到了896GB/s,远超NVIDIA H100。
MI300X在性能和容量方面达到了前所未有的水平,特别适合进行AI计算。一张显卡就能支持400亿参数的大型模型。
据悉,MI300X的HBM密度是英伟达H100的2.4倍,带宽则是H100的1.6倍。这使得MI300X在具体应用效果上表现出色。它可以支持400亿参数的Hugging Face AI模型,单块MI300X能够支持高达800亿参数规模的模型。
MI300X的硬件能力与市场上的英伟达产品相当。它拥有高达192GB的内存,超过了英伟达竞争对手H100所支持的120GB内存。这意味着MI300X可以承载比其他芯片更大规模的AI模型。
据AMD公司表示,MI300X将在第三季度逐步推出,并在第四季度开始大规模生产,届时将配备192GB内存。
MI300X的问世将为市场带来更多选择,并提供强大的硬件能力,以满足不断增长的AI计算需求。除此之外,MI300A已经开始向客户销售。
编辑:黄飞
-
amd
+关注
关注
25文章
5413浏览量
133763 -
NVIDIA
+关注
关注
14文章
4838浏览量
102683 -
HBM
+关注
关注
0文章
359浏览量
14671
发布评论请先 登录
相关推荐
评论