英伟达全球首发HBM3e 专为生成式AI时代打造
2023年8月8日，NVIDIA创始人兼CEO黄仁勋在计算机图形年会SIGGRAPH上发布了HBM3e内存新一代GH200 Grace Hopper超级芯片。这款芯片被黄仁勋称为“加速计算和生成式AI时代的处理器”，旨在用于任何大型语言模型，以降低推理成本。
与今年5月发布的GH200不同，新一代GH200芯片搭载了全球首款HBM3e内存，内存容量和带宽都有显著提高，专为加速计算和生成式AI时代而设计。
新版GH200芯片平台基于72核Grace CPU，配备480GB ECC LPDDR5X内存以及GH100计算GPU。此外，它还搭配着141GB的HBM3e内存，分为六个24GB的堆栈，并采用了6，144位的内存接口。尽管实际上NVIDIA安装了144GB的内存，但可用的内存容量为141GB。
借助全球最快的HBM3e内存，这款芯片的内存容量高达141GB，带宽每秒可达到5TB。每个GPU的容量比NVIDIA H100 GPU多出1.7倍，带宽比H100高1.55倍。
NVIDIA强调，新版GH200 Grace Hopper芯片使用了与原版相同的Grace CPU和GH100 GPU芯片，因此无需推出新的软件版本或步进。原版GH200和升级版GH200将共存于市场，后者将以更高的价格销售，因为它具备更先进的内存技术带来的更高性能。
NVIDIA表示，新版GH200旨在处理世界上最复杂的生成式AI工作负载，包括大型语言模型、推荐系统和矢量数据库，并将提供多种配置。预计新版GH200将于2024年第二季度投产。
编辑：黄飞
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。
举报投诉
-
处理器
+关注
关注
68文章
18616浏览量
224674 -
NVIDIA
+关注
关注
14文章
4687浏览量
102120 -
gpu
+关注
关注
27文章
4512浏览量
127569 -
内存
+关注
关注
8文章
2800浏览量
73126 -
AI
+关注
关注
87文章
27520浏览量
265165 -
生成式AI
+关注
关注
0文章
427浏览量
334 -
HBM3
+关注
关注
0文章
70浏览量
93 -
HBM3E
+关注
关注
0文章
63浏览量
30
发布评论请先 登录
相关推荐
传三星HBM3E尚无法通过英伟达认证
三星电子近期正积极投入验证工作，以确保其HBM3E产品能够顺利供应给英伟达。然而，业界传出消息，因台积电在采用标准上存在的某些问题，导致8层HBM3E产品目前仍需要进一步的检验。
进一步解读英伟达 Blackwell 架构、NVlink及GB200 超级芯片
，通过英伟达高带宽接口（NV-HBI）将两个最大可制造芯片合并为一个图形处理器单元，支持10TB/s带宽，形成高效的通信通道，提升整体性能。
配备192GB的HBM3e内存、超过8TB/s的峰值内存
发表于 05-13 17:16
三星电子HBM存储技术进展：12层HBM3E芯片，2TB/s带宽HBM4即将上市
据业内透露，三星在HBM3E芯片研发方面遥遥领先其他公司，有能力在2024年9月实现对英伟达的替代，这意味着它将成为英伟达12层HBM3E的垄断供应商。然而，三星方面不愿透露具体客户信
SK海力士HBM3E正式量产，巩固AI存储领域的领先地位
SK海力士作为HBM3E的首发玩家，预计这款最新产品的大批量投产及其作为业内首家供应HBM3制造商所累积的经验，将进一步强化公司在AI存储器市场的领导者地位。
三星电子成功发布其首款12层堆叠HBM3E DRAM—HBM3E 12H
2024年2月27日 - 三星电子今日宣布，公司成功发布其首款12层堆叠HBM3E DRAM——HBM3E 12H，这是三星目前为止容量最大的HBM产品。
SK海力士预计3月量产HBM3E，供货英伟达
近日，全球存储解决方案领导者SK海力士宣布，他们已成功完成了高性能HBM3E（High-Bandwidth Memory 3rd Generation Enhanced）的开发，并且已经通过了英伟
英伟达大量订购HBM3E内存，抢占市场先机
英伟达（NVIDIA）近日宣布，已向SK海力士、美光等公司订购大量HBM3E内存，为其AI领域的下一代产品做准备。也预示着内存市场将新一轮竞争。
英伟达将于Q1完成HBM3e验证 2026年HBM4将推出
由于hbm芯片的验证过程复杂，预计需要2个季度左右的时间，因此业界预测，最快将于2023年末得到部分企业对hbm3e的验证结果。但是，验证工作可能会在2024年第一季度完成。机构表示，各原工厂的hbm3e验证结果将最终决定
预计英伟达将于Q1完成HBM3e验证 2026年HBM4将推出
由于hbm芯片的验证过程复杂，预计需要2个季度左右的时间，因此业界预测，最快将于2023年末得到部分企业对hbm3e的验证结果。但是，验证工作可能会在2024年第一季度完成。机构表示，各原工厂的hbm3e验证结果将最终决定
追赶SK海力士，三星、美光抢进HBM3E
电子发烧友网报道（文/黄晶晶）新型存储HBM随着AI训练需求的攀升显示出越来越重要的地位。从2013年SK海力士推出第一代HBM来看，HBM历经HB
HBM3E明年商业出货,兼具高速和低成本优点
，skjmnft同时已经向英伟达等用户ERP交付样品。 该公司的HBM3E内存采用 eight-tier 布局，每个堆栈为24 GB，采用1β 技术生产，具备出色的性能。Multiable万达宝ERP具备数字化管理各个业务板块,提升
SK海力士推全球最高性能HBM3E内存
HBM3E内存（也可以说是显存）主要面向AI应用，是HBM3规范的扩展，它有着当前最好的性能，而且在容量、散热及用户友好性上全面针对AI优化。
SK海力士开发出全球最高规格HBM3E，向英伟达提供样品
该公司表示，HBM3E（HBM3的扩展版本）的成功开发得益于其作为业界唯一的HBM3大规模供应商的经验。凭借作为业界最大HBM产品供应商的经验和量产准备水平，SK海力士计划在明年上半年
SK海力士开发出全球最高规格HBM3E
sk海力士表示：“以唯一批量生产hbm3的经验为基础，成功开发出了世界最高性能的扩展版hbm3e。“将以业界最大规模的hbm供应经验和量产成熟度为基础，从明年上半年开始批量生产hbm3e
黄仁勋甩出最强生成式AI处理器，全球首发HBM3e，比H100还快
在随后大约1小时20分钟的演讲中，黄仁勋宣布全球首发HBM3e内存——推出下一代GH200 Grace Hopper超级芯片。黄仁勋将它称作“加速计算和生成式
工商网监
评论