AMD推出MI300X，可运行多达800亿参数模型
6月13日（星期二），AMD举行新品发布会，最重磅的新品当属于具有大模型训练功能的GPU Instinct MI300。
该芯片是针对LLM的优化版，拥有192gb的hbm3内存、5.2 tb/s的带宽和896gb/s的Infinity Fabric带宽。amd将1530亿个晶体管集成在12个5纳米芯片内。使用cdna 3 gpu结构、24个zen 4 cpu核心、128gb hbm3内存。与前作mi250、mi300相比，性能和效率分别提高了8倍和5倍。
mi300x提供的hbm与英伟达ai芯片h100的密度相比，最大2.4倍，带宽最大1.6倍。amd的芯片将可以运行比英伟达更大的模型。
amd首席执行官苏姿丰表示，mi300x支持400亿个hugging face ai模型运行，并演示llm可以写关于旧金山的诗。单一mi300x最多可运行一个参数800亿个模型，这是世界上第一次在单一gpu上执行如此大的模型。
审核编辑：郭婷
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。
举报投诉
-
芯片
+关注
关注
453文章
50395浏览量
421788 -
amd
+关注
关注
25文章
5441浏览量
133936 -
cpu
+关注
关注
68文章
10824浏览量
211140
发布评论请先 登录
相关推荐
IBM与AMD携手部署MI300X加速器，强化AI与HPC能力
举措预计将于2025年上半年正式推出。 此次合作的核心目标是提升通用人工智能(AI)模型的性能与能效，并为企业客户提供高性能计算(HPC)应用的强大支持。AMD的Instinct MI300X
IBM将在云平台部署AMD加速器
IBM与AMD近期宣布了一项重要合作协议，根据协议，IBM将在其云平台上部署AMD Instinct MI300X加速器。这一举措旨在提升企业客户在生成式AI模型方面的性能和能效，进一
IBM与AMD携手将在IBM云上部署AMD Instinct MI300X加速器
近日，全球领先的科技企业IBM与AMD共同宣布了一项重要合作。双方计划在IBM云上部署AMD的Instinct MI300X加速器服务，以满足企业客户对于高性能和高效能AI模型的需求。
三星首度引入AMD MI300X，缓解AI GPU短缺
三星电子近日斥资约270亿韩元（约合1.42亿元人民币），购买了AMD Instinct MI300X加速器。这一举措标志着三星电子首次引入非英伟达品牌的AI GPU，以应对企业内部算
人工智能市场风向转变，AMD Instinct MI300X GPU更受欢迎
近一半的受访者表示对AMD的Instinct MI300X GPU持乐观态度。与英伟达的H100系列相比，MI300X不仅价格与性能比值更为优越，而且供应稳定，避免了货源紧张的问题。
AMD Instinct MI300新版将采用HBM3e内存，竞争英伟达B100
AMD于去年宣布旗下两款Instinct MI300加速器，包括基于GPU的MI300X以及基于APU架构的MI300A， both配备192GB/128GB的HBM3内存，还流传着一
英伟达繁荣背后的挑战 仍面临着各种内忧外患
为抢占AI商机，英特尔和AMD都紧跟着NVIDIA脚步，在NVIDIA率先推出采用台积电4nm的H100后，AMD于去年推出首批应用于AI和HPC的“Instinct
AMD首批Instinct MI300X已开始交付
AMD开始交付其首批用于AI和HPC的Instinct MI300X GPU。据LaminiAI首席执行官Sharon Zhou透露，该公司已经收到了这批GPU，并计划使用它们来运行大型模型
AMD Instinct MI300X已向LaminiAI批量供货
LaminaAI作为AMD的长期合作伙伴，能够抢先体验到全新MI300X加速器的强大优势，实属正常。该公司首席执行官Sharon Zhou在社交媒体进行了公告，同时透露，已经接收到配置8个Instinct MI300X加速器的设
英伟达、AMD AI芯片今年将生产150万颗，先进封装设备商受惠
据早前报道，NVIDIA的高端AI芯片H200和GH200以外，明年还将推出B100和GB200等下一代产品。同时，AMD今年主推的AI加速器已有MI300A、MI300X等成功出货，
AMD Instinct MI300A获得德国订单
先进微设备公司（AMD）于本月6日成功举办了"推进人工智能"（Advancing AI）主题活动，期间正式发布了专为数据中心设计的Instinct MI300系列计算卡，首批推出
AMD正式发布 MI300X AI 加速器，力压英伟达H100
争夺剩余的市场而战。然而，MI300X对英伟达的H100构成了有力的竞争，甚至微软的首席技术官最近都表示，他认为AMD最终在这个市场上将非常有竞争力。
AMD两大高性能 AI 芯片正式出货，剑指英伟达 H100
电子发烧友网报道（文/周凯扬）近日 AMD 举办了Advancing AI大会，除了发布全新的锐龙 8040系列 AI PC 芯片以外，也终于宣布了 MI300X GPU以及 MI300A APU这
Meta、微软承诺购买AMD新型人工智能芯片Instinct MI300X
amd的最新高端芯片instinct特mi300x明年年初上市开始，人工智能公司和有关云服务提供商的能满足，这是人工智能模型开发费用，降低英伟达在人工智能芯片的工作竞争压力将持续上升可以给予的。
工商网监
评论