AMD推出MI300X，可运行多达800亿参数模型
6月13日（星期二），AMD举行新品发布会，最重磅的新品当属于具有大模型训练功能的GPU Instinct MI300。
该芯片是针对LLM的优化版，拥有192gb的hbm3内存、5.2 tb/s的带宽和896gb/s的Infinity Fabric带宽。amd将1530亿个晶体管集成在12个5纳米芯片内。使用cdna 3 gpu结构、24个zen 4 cpu核心、128gb hbm3内存。与前作mi250、mi300相比，性能和效率分别提高了8倍和5倍。
mi300x提供的hbm与英伟达ai芯片h100的密度相比，最大2.4倍，带宽最大1.6倍。amd的芯片将可以运行比英伟达更大的模型。
amd首席执行官苏姿丰表示，mi300x支持400亿个hugging face ai模型运行，并演示llm可以写关于旧金山的诗。单一mi300x最多可运行一个参数800亿个模型，这是世界上第一次在单一gpu上执行如此大的模型。
审核编辑：郭婷
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。
举报投诉
-
芯片
+关注
关注
451文章
49725浏览量
417669 -
amd
+关注
关注
25文章
5376浏览量
133436 -
cpu
+关注
关注
68文章
10721浏览量
209617
发布评论请先 登录
相关推荐
微软将采用AMD AI芯片以替代英伟达，为云计算提供更优解决方案
微软将大规模采用AMD的旗舰产品MI300X，并通过Azure云计算平台向用户提供计算集群服务。鉴于Nvidia的H100和H200芯片供应紧张，微软决定提供备选方案。
人工智能市场风向转变，AMD Instinct MI300X GPU更受欢迎
近一半的受访者表示对AMD的Instinct MI300X GPU持乐观态度。与英伟达的H100系列相比，MI300X不仅价格与性能比值更为优越，而且供应稳定，避免了货源紧张的问题。
AMD Instinct MI300新版将采用HBM3e内存，竞争英伟达B100
AMD于去年宣布旗下两款Instinct MI300加速器，包括基于GPU的MI300X以及基于APU架构的MI300A， both配备192GB/128GB的HBM3内存，还流传着一
英伟达繁荣背后的挑战 仍面临着各种内忧外患
为抢占AI商机，英特尔和AMD都紧跟着NVIDIA脚步，在NVIDIA率先推出采用台积电4nm的H100后，AMD于去年推出首批应用于AI和HPC的“Instinct
AMD首批Instinct MI300X已开始交付
AMD开始交付其首批用于AI和HPC的Instinct MI300X GPU。据LaminiAI首席执行官Sharon Zhou透露，该公司已经收到了这批GPU，并计划使用它们来运行大型模型
硬钢英伟达！这个GPU已发货……
AMD MI300X集成八个5nm XCD加速计算模块，共计304个计算单元，搭配四个6nm IOD模块，集成256MB无限缓存，还有八颗共192GB HBM3内存，总计1530亿个晶体管。按照官方说法，
AMD Instinct MI300X已向LaminiAI批量供货
LaminaAI作为AMD的长期合作伙伴，能够抢先体验到全新MI300X加速器的强大优势，实属正常。该公司首席执行官Sharon Zhou在社交媒体进行了公告，同时透露，已经接收到配置8个Instinct MI300X加速器的设
英伟达、AMD AI芯片今年将生产150万颗，先进封装设备商受惠
据早前报道，NVIDIA的高端AI芯片H200和GH200以外，明年还将推出B100和GB200等下一代产品。同时，AMD今年主推的AI加速器已有MI300A、MI300X等成功出货，
AMD Instinct MI300A获得德国订单
先进微设备公司（AMD）于本月6日成功举办了"推进人工智能"（Advancing AI）主题活动，期间正式发布了专为数据中心设计的Instinct MI300系列计算卡，首批推出
英特尔借助AI热潮振兴业务策略
在AI加速器领域，AMD正努力赶超Nvidia，其将于明年推出的MI300X芯片备受关注。上周举办的一场活动中，AMD详细阐述了这款新产品，且预测未来四年间，AI加速器市场销售额将高达
AMD正式发布 MI300X AI 加速器，力压英伟达H100
争夺剩余的市场而战。然而，MI300X对英伟达的H100构成了有力的竞争，甚至微软的首席技术官最近都表示，他认为AMD最终在这个市场上将非常有竞争力。
AMD两大高性能 AI 芯片正式出货，剑指英伟达 H100
电子发烧友网报道（文/周凯扬）近日 AMD 举办了Advancing AI大会，除了发布全新的锐龙 8040系列 AI PC 芯片以外，也终于宣布了 MI300X GPU以及 MI300A APU这
Meta、微软承诺购买AMD新型人工智能芯片Instinct MI300X
amd的最新高端芯片instinct特mi300x明年年初上市开始，人工智能公司和有关云服务提供商的能满足，这是人工智能模型开发费用，降低英伟达在人工智能芯片的工作竞争压力将持续上升可以给予的。
AMD MI300系列新品下月问世，锁定AI服务器市场
amd正积极抢占ai事业的机会，MI300系列将是接下来的利器。amd的ceo苏姿丰先前预期，全球数据中心ai加速器市场到2027年为止1 500亿美元（逾新台币4.8兆元），这是新a
联发科天玑9300最高可运行330亿参数AI大模型
联发科天玑9300最高可运行330亿参数AI大模型 联发科这个是要把AI大模型带到手机端的节奏吗？联发科正式发布了天玑9300旗舰5G生成式
工商网监
评论