1月22日报道,日前,AMD正式启动第三代人工智能及高性能计算(HPC)加速器Instinct MI300X的批量生产,并首先向核心合作伙伴LaminaAI提供。借助MI300X的强大运算能力,LaminaAI将以满足企业用户的高端需求为目标,实现大语言模型(LLM)的高效运转。
LaminaAI作为AMD的长期合作伙伴,能够抢先体验到全新MI300X加速器的强大优势,实属正常。该公司首席执行官Sharon Zhou在社交媒体进行了公告,同时透露,已经接收到配置8个Instinct MI300X加速器的设备,其中包括首批正在生产的AMD MI300X,以及即将推出的LaminaAI下一代LLM集群。
据悉,MI300X是AMD Instinct MI300系列中的旗舰型号,专为AI和HPC设计,相比前代产品,它采用了更少的x86 CPU内核,转而搭载数量超过MI300A的304个CDNA 3计算单元,内存容量方面亦有显著提升, 达到了惊人的192GB HBM3。在峰值带宽方面,更可达到顶级的5.3 TB/s,性能远超同行。
据AMD官方测试数据显示,MI300X综合表现出众,超越 NVIDIA H100 80GB,且有望对H200 141GB构成竞争压力。包括Meta和Microsoft在内的领先企业均大规模采购了AMD Instinct MI300系列新品,而LaminaAI则成为公开使用 MI300X的首家公司。
-
amd
+关注
关注
25文章
5453浏览量
133987 -
加速器
+关注
关注
2文章
795浏览量
37798 -
语言模型
+关注
关注
0文章
514浏览量
10252
发布评论请先 登录
相关推荐
评论