AMD推出MI300X，可运行多达800亿参数模型
6月13日（星期二），AMD举行新品发布会，最重磅的新品当属于具有大模型训练功能的GPU Instinct MI300。
该芯片是针对LLM的优化版，拥有192gb的hbm3内存、5.2 tb/s的带宽和896gb/s的Infinity Fabric带宽。amd将1530亿个晶体管集成在12个5纳米芯片内。使用cdna 3 gpu结构、24个zen 4 cpu核心、128gb hbm3内存。与前作mi250、mi300相比，性能和效率分别提高了8倍和5倍。
mi300x提供的hbm与英伟达ai芯片h100的密度相比，最大2.4倍，带宽最大1.6倍。amd的芯片将可以运行比英伟达更大的模型。
amd首席执行官苏姿丰表示，mi300x支持400亿个hugging face ai模型运行，并演示llm可以写关于旧金山的诗。单一mi300x最多可运行一个参数800亿个模型，这是世界上第一次在单一gpu上执行如此大的模型。
审核编辑：郭婷
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。
举报投诉
-
芯片
+关注
关注
455文章
50771浏览量
423418 -
amd
+关注
关注
25文章
5467浏览量
134131 -
cpu
+关注
关注
68文章
10859浏览量
211698
发布评论请先 登录
相关推荐
AMD MI300X AI芯片面临挑战
力不从心。 Semianalysis的报告详细阐述了AMD所面临的问题。报告指出，由于AMD的软件存在显著缺陷，若未经过大量的调试和优化，使用MI300X进行AI模型的训练几乎是不可能
IBM与AMD携手部署MI300X加速器，强化AI与HPC能力
举措预计将于2025年上半年正式推出。 此次合作的核心目标是提升通用人工智能(AI)模型的性能与能效，并为企业客户提供高性能计算(HPC)应用的强大支持。AMD的Instinct MI300X
IBM将在云平台部署AMD加速器
IBM与AMD近期宣布了一项重要合作协议，根据协议，IBM将在其云平台上部署AMD Instinct MI300X加速器。这一举措旨在提升企业客户在生成式AI模型方面的性能和能效，进一
IBM与AMD携手将在IBM云上部署AMD Instinct MI300X加速器
近日，全球领先的科技企业IBM与AMD共同宣布了一项重要合作。双方计划在IBM云上部署AMD的Instinct MI300X加速器服务，以满足企业客户对于高性能和高效能AI模型的需求。
三星首度引入AMD MI300X，缓解AI GPU短缺
三星电子近日斥资约270亿韩元（约合1.42亿元人民币），购买了AMD Instinct MI300X加速器。这一举措标志着三星电子首次引入非英伟达品牌的AI GPU，以应对企业内部算
微软将采用AMD AI芯片以替代英伟达，为云计算提供更优解决方案
微软将大规模采用AMD的旗舰产品MI300X，并通过Azure云计算平台向用户提供计算集群服务。鉴于Nvidia的H100和H200芯片供应紧张，微软决定提供备选方案。
人工智能市场风向转变，AMD Instinct MI300X GPU更受欢迎
近一半的受访者表示对AMD的Instinct MI300X GPU持乐观态度。与英伟达的H100系列相比，MI300X不仅价格与性能比值更为优越，而且供应稳定，避免了货源紧张的问题。
AMD Instinct MI300新版将采用HBM3e内存，竞争英伟达B100
AMD于去年宣布旗下两款Instinct MI300加速器，包括基于GPU的MI300X以及基于APU架构的MI300A， both配备192GB/128GB的HBM3内存，还流传着一
英伟达繁荣背后的挑战 仍面临着各种内忧外患
为抢占AI商机，英特尔和AMD都紧跟着NVIDIA脚步，在NVIDIA率先推出采用台积电4nm的H100后，AMD于去年推出首批应用于AI和HPC的“Instinct
AMD首批Instinct MI300X已开始交付
AMD开始交付其首批用于AI和HPC的Instinct MI300X GPU。据LaminiAI首席执行官Sharon Zhou透露，该公司已经收到了这批GPU，并计划使用它们来运行大型模型
硬钢英伟达！这个GPU已发货……
AMD MI300X集成八个5nm XCD加速计算模块，共计304个计算单元，搭配四个6nm IOD模块，集成256MB无限缓存，还有八颗共192GB HBM3内存，总计1530亿个晶体管。按照官方说法，
AMD Instinct MI300X已向LaminiAI批量供货
LaminaAI作为AMD的长期合作伙伴，能够抢先体验到全新MI300X加速器的强大优势，实属正常。该公司首席执行官Sharon Zhou在社交媒体进行了公告，同时透露，已经接收到配置8个Instinct MI300X加速器的设
英伟达、AMD AI芯片今年将生产150万颗，先进封装设备商受惠
据早前报道，NVIDIA的高端AI芯片H200和GH200以外，明年还将推出B100和GB200等下一代产品。同时，AMD今年主推的AI加速器已有MI300A、MI300X等成功出货，
工商网监
评论