0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AMD MI300X要量产了

要长高 来源:网络整理 作者:网络整理 2023-08-04 17:19 次阅读

MI300X是一款与NVIDIA旗舰显卡H100相媲美的产品。它拥有8个XCD核心,304组CU单元和8组HBM3核心。显存容量达到了192GB,相当于NVIDIA H100的2.4倍。同时,HBM内存带宽高达5.2TB/s,Infinity Fabric总线带宽也达到了896GB/s,远超NVIDIA H100。

MI300X在性能和容量方面达到了前所未有的水平,特别适合进行AI计算。一张显卡就能支持400亿参数的大型模型。

据悉,MI300X的HBM密度是英伟达H100的2.4倍,带宽则是H100的1.6倍。这使得MI300X在具体应用效果上表现出色。它可以支持400亿参数的Hugging Face AI模型,单块MI300X能够支持高达800亿参数规模的模型。

MI300X的硬件能力与市场上的英伟达产品相当。它拥有高达192GB的内存,超过了英伟达竞争对手H100所支持的120GB内存。这意味着MI300X可以承载比其他芯片更大规模的AI模型。

AMD公司表示,MI300X将在第三季度逐步推出,并在第四季度开始大规模生产,届时将配备192GB内存。

MI300X的问世将为市场带来更多选择,并提供强大的硬件能力,以满足不断增长的AI计算需求。除此之外,MI300A已经开始向客户销售。

编辑:黄飞

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • amd
    amd
    +关注

    关注

    25

    文章

    5413

    浏览量

    133763
  • NVIDIA
    +关注

    关注

    14

    文章

    4838

    浏览量

    102683
  • HBM
    HBM
    +关注

    关注

    0

    文章

    359

    浏览量

    14671
收藏 人收藏

    评论

    相关推荐

    三星首度引入AMD MI300X,缓解AI GPU短缺

    三星电子近日斥资约270亿韩元(约合1.42亿元人民币),购买了AMD Instinct MI300X加速器。这一举措标志着三星电子首次引入非英伟达品牌的AI GPU,以应对企业内部算力资源不足的问题。
    的头像 发表于 10-10 17:15 393次阅读

    AMD发布AI芯片MI325X 预计2024年第四季度上市

    第四季度上市。苏姿丰女士在演讲中特别强调,早前发布的MI300已经成为了AMD公司发展历程中的一款标志性产品,而全新的MI325X则搭载HBM3E高带宽存储技术以及CDNA3先进架构
    的头像 发表于 06-03 15:41 874次阅读

    微软将采用AMD AI芯片以替代英伟达,为云计算提供更优解决方案

    微软将大规模采用AMD的旗舰产品MI300X,并通过Azure云计算平台向用户提供计算集群服务。鉴于Nvidia的H100和H200芯片供应紧张,微软决定提供备选方案。
    的头像 发表于 05-17 16:38 732次阅读

    人工智能市场风向转变,AMD Instinct MI300X GPU更受欢迎

    近一半的受访者表示对AMD的Instinct MI300X GPU持乐观态度。与英伟达的H100系列相比,MI300X不仅价格与性能比值更为优越,而且供应稳定,避免了货源紧张的问题。
    的头像 发表于 03-11 15:28 880次阅读

    AMD Instinct MI300新版将采用HBM3e内存,竞争英伟达B100

    AMD于去年宣布旗下两款Instinct MI300加速器,包括基于GPU的MI300X以及基于APU架构的MI300A, both配备192GB/128GB的HBM3内存,还流传着一
    的头像 发表于 02-23 14:36 922次阅读

    英伟达繁荣背后的挑战 仍面临着各种内忧外患

    为抢占AI商机,英特尔和AMD都紧跟着NVIDIA脚步,在NVIDIA率先推出采用台积电4nm的H100后,AMD于去年推出首批应用于AI和HPC的“Instinct MI300系列”,其中M
    的头像 发表于 02-21 14:16 684次阅读
    英伟达繁荣背后的挑战 仍面临着各种内忧外患

    AMD首批Instinct MI300X已开始交付

    模型。与Instinct MI300A不同,Instinct MI300X不包含x86 CPU内核,但通过增加CDNA 3小芯片的数量和搭载192 GB HBM3内存,实现更高的计算
    的头像 发表于 01-24 16:57 630次阅读

    硬钢英伟达!这个GPU已发货……

    AMD MI300X集成八个5nm XCD加速计算模块,共计304个计算单元,搭配四个6nm IOD模块,集成256MB无限缓存,还有八颗共192GB HBM3内存,总计1530亿个晶体管。按照官方说法,MI300X的性能可以超
    的头像 发表于 01-23 16:23 611次阅读

    AMD Instinct MI300X已向LaminiAI批量供货

    LaminaAI作为AMD的长期合作伙伴,能够抢先体验到全新MI300X加速器的强大优势,实属正常。该公司首席执行官Sharon Zhou在社交媒体进行了公告,同时透露,已经接收到配置8个Instinct MI300X加速器的设
    的头像 发表于 01-23 09:53 390次阅读

    英伟达、AMD AI芯片今年将生产150万颗,先进封装设备商受惠

    据早前报道,NVIDIA的高端AI芯片H200和GH200以外,明年还将推出B100和GB200等下一代产品。同时,AMD今年主推的AI加速器已有MI300A、MI300X等成功出货,客户数量众多,表明
    的头像 发表于 01-08 14:11 562次阅读

    AMD Instinct MI300A获得德国订单

    先进微设备公司(AMD)于本月6日成功举办了"推进人工智能"(Advancing AI)主题活动,期间正式发布专为数据中心设计的Instinct MI300系列计算卡,首批推出
    的头像 发表于 12-25 11:30 414次阅读
    <b class='flag-5'>AMD</b> Instinct <b class='flag-5'>MI300</b>A获得德国订单

    深入分析AMD MI300A的规格和设计方案

    MI300A 与 H100 SXM,同样是 APU(CPU + GPU)与仅 GPU 的比较,AMD 认为其芯片处于大致水平,但包含 CPU。
    发表于 12-21 14:41 1924次阅读
    深入分析<b class='flag-5'>AMD</b> <b class='flag-5'>MI300</b>A的规格和设计方案

    AMD正式发布 MI300X AI 加速器,力压英伟达H100

    争夺剩余的市场而战。然而,MI300X对英伟达的H100构成了有力的竞争,甚至微软的首席技术官最近都表示,他认为AMD最终在这个市场上将非常有竞争力。
    的头像 发表于 12-10 11:30 892次阅读
    <b class='flag-5'>AMD</b>正式发布 <b class='flag-5'>MI300X</b> AI 加速器,力压英伟达H100

    AMD两大高性能 AI 芯片正式出货,剑指英伟达 H100

    电子发烧友网报道(文/周凯扬)近日 AMD 举办了Advancing AI大会,除了发布全新的锐龙 8040系列 AI PC 芯片以外,也终于宣布 MI300X GPU以及 MI300
    的头像 发表于 12-08 00:26 2211次阅读

    Meta、微软承诺购买AMD新型人工智能芯片Instinct MI300X

    amd的最新高端芯片instinct特mi300x明年年初上市开始,人工智能公司和有关云服务提供商的能满足,这是人工智能模型开发费用,降低英伟达在人工智能芯片的工作竞争压力将持续上升可以给予的。
    的头像 发表于 12-07 17:31 1059次阅读