0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

大算力芯片里的HBM,你了解多少?

贞光科技 2023-12-05 16:14 次阅读

最近,随着人工智能行业的高速崛起,大算力芯片业成为半导体行业为数不多的热门领域

HBM (高宽带内存:High-bandwidth memory)作为大算力芯片里不可或缺的组成部分,也因此走入了行业内外人士的视野

wKgaomVu29qAc42KAAT5uH-zMbE687.jpg

和传统的GDDR相比,HBM不仅仅提供了更大的位数宽度,而且通过TSV和Interposer的连接方式,大幅降低了数据通讯上的能量损耗。这对于大算力芯片的性能效率提升是起到决定性作用的

如果GPU通过PCB板和传统GDDR内存交换数据,那在高速运算时其大多数的能耗都会消耗在数据通讯本身而非计算上。这对于能耗成本高企的AI模型训练来说是几乎不可接受的

而采用HBM以后,通讯相关的能耗可以成倍降低,甚至有可能把能耗占比降到20%,甚至更低。所以目前AI相关的算力芯片都几乎采用了HBM的技术方案。HBM的市场也随之爆发(见下图)

wKgZomVu29mAMxEIAAVMovWcDV8129.jpg

我趁这个热度,也收集了不少资料好好学习了一下HBM相关的知识

HBM到目前为止基本发展了四代:

第一代和第二代的技术规范标准被定义在了JEDEC的JESD235里,后更新为JESD235A。HBM2相对于HBM1的区别是通道模式由原来的Legacy变成了Pseudo Channel:用两个虚拟的64位通道等效成一个128位通道

后来在JESD235C和JESD235D里定义了HBM2E,较大幅度地提升了数据通讯能力等参数。行业里习惯把这个称为第三代HBM

而JESD238开始定义的HBM3则被顺延地称为了第四代HBM。需要注意的是,这次JEDEC标准文档的编号也从235改成了238

wKgaomVu29mAWxFzAAFhEZSBp8I183.jpg

和之前的版本相比,HBM3的最大变化是每个Stack的通道(Channel)数量从2个增加到了4个,从而使得数据容量翻倍

后来在JEDEC的标准上,Micron、Hynix等制造商也分别推出了自己的增强型版本至于第五代的HBM4,目前JEDEC的标准还没有正式推出。我在网上也只能找到一些简单的指标数据作为参考

为了整理各个版本HBM的具体指标参数和相关信息,我不仅下载了JEDEC的各个版本文档,也参考不少其它的资料,然后收集整理了下面这个表格供大家参考欢迎大家帮忙确认,如果发现任何问题,请和我沟通或者在公众号给我留言,谢谢了

wKgaomVu29qAFf0aAAft7E7AVtY562.jpg

注:转载至 半导体综研 文中观点仅供分享交流,不代表贞光科技立场,如涉及版权等问题,请您告知,我们将及时处理!

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    453

    文章

    50384

    浏览量

    421718
  • 半导体
    +关注

    关注

    334

    文章

    26996

    浏览量

    216168
  • HBM
    HBM
    +关注

    关注

    0

    文章

    372

    浏览量

    14704
  • 算力芯片
    +关注

    关注

    0

    文章

    44

    浏览量

    4502
收藏 人收藏

    评论

    相关推荐

    需求催生存风口,HBM竞争从先进封装开始

    无疑是今年最火热的高端存储产品。   在AI芯片需求不减竞争加剧的背景下,全球最大的两家存储器芯片制造商三星和SK海力士都在积极扩大HBM产量抢占AI芯片
    的头像 发表于 12-03 08:34 2335次阅读

    AI时代核心存HBM(上)

    HBM 等,他们虽然均使用相同的 DRAM 存储单 元(DRAM Die),但其组成架构功能不同,导致对应的性能不同。手机、汽车、消费类等 对低功耗要求高主要使用 LPDDR,服务器和 PC 端等有高传输、高密度要求则使用 DDR,图 形处理及高
    的头像 发表于 11-16 10:30 317次阅读
    AI时代核心存<b class='flag-5'>力</b><b class='flag-5'>HBM</b>(上)

    基础篇:从零开始了解

    即计算能力(Computing Power),狭义上指对数字问题的运算能力,而广义上指对输入信息处理后实现结果输出的一种能力。虽然处理的内容不同,但处理过程的能力都可抽象为。比
    的头像 发表于 11-15 14:22 305次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>基础篇:从零开始<b class='flag-5'>了解</b><b class='flag-5'>算</b><b class='flag-5'>力</b>

    亿铸科技熊大鹏探讨AI大芯片的挑战与解决策略

    在SEMiBAY2024《HBM与存储器技术与应用论坛》上,亿铸科技的创始人、董事长兼CEO熊大鹏博士发表了题为《超越极限:大芯片的技术挑战与解决之道》的演讲,深入剖析了AI大模型
    的头像 发表于 10-25 11:52 325次阅读

    芯片面临的技术挑战和解决策略

    在湾芯展SEMiBAY2024《HBM与存储器技术与应用论坛》上,亿铸科技创始人、董事长兼CEO熊大鹏发表了题为《超越极限:大芯片面临的技术挑战和解决策略》的演讲。
    的头像 发表于 10-23 14:50 294次阅读

    【「芯片 | 高性能 CPU/GPU/NPU 微架构分析」阅读体验】--了解芯片CPU

    Computing)拓扑是一种特殊的 CPU设计,其核心思想是将在储器和运算器紧密地结合在一起,使得计算操作可以在存储器中进行,从而大幅提高数据处理效率和性能。 通过章节学习,可以看到芯片从组成设计上来说知识点还是蛮多的,
    发表于 10-20 12:03

    【「芯片 | 高性能 CPU/GPU/NPU 微架构分析」阅读体验】--全书概览

    、GPU、NPU,给我们剖析了芯片的微架构。书中有对芯片方案商处理器的讲解,理论联系实际,使读者能更好理解
    发表于 10-15 22:08

    亿铸科技谈大芯片面临的技术挑战和解决策略

    随着人工智能技术的飞速发展,已成为推动产业变革的关键力量,但大模型的快速发展,参数的爆发,对于需求也提出了更高的要求,带来了全新的挑战。那大
    的头像 发表于 08-07 10:03 689次阅读

    力系列基础篇——与计算机性能:解锁超能力的神秘力量!

    在《力系列基础篇——101:从零开始了解》中,相信各位粉丝初步
    的头像 发表于 07-11 08:04 104次阅读
    <b class='flag-5'>算</b>力系列基础篇——<b class='flag-5'>算</b><b class='flag-5'>力</b>与计算机性能:解锁超能力的神秘力量!

    揭秘芯片:为何它如此关键?

    在数字化时代,芯片作为电子设备的核心组件,其性能直接关系到设备的运行速度和处理能力。而芯片,即其计算能力,更是衡量芯片性能的重要指标。
    的头像 发表于 05-09 08:27 862次阅读
    揭秘<b class='flag-5'>芯片</b><b class='flag-5'>算</b><b class='flag-5'>力</b>:为何它如此关键?

    力系列基础篇——101:从零开始了解

    相信大家已经感受到,我们正处在一个人工智能时代。如果要问在人工智能时代最重要的是什么?那必须是:
    的头像 发表于 04-24 08:05 1002次阅读
    <b class='flag-5'>算</b>力系列基础篇——<b class='flag-5'>算</b><b class='flag-5'>力</b>101:从零开始<b class='flag-5'>了解</b><b class='flag-5'>算</b><b class='flag-5'>力</b>

    芯片:未来科技的加速器?

    在数字化时代,芯片作为电子设备的核心组件,其性能直接关系到设备的运行速度和处理能力。而芯片,即其计算能力,更是衡量芯片性能的重要指标。
    的头像 发表于 02-27 09:42 860次阅读
    高<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>芯片</b>:未来科技的加速器?

    大茉莉X16-P,5800M大称王称霸

    Rykj365
    发布于 :2024年01月25日 14:54:52

    大模型时代必备存储之HBM进入汽车领域

    大模型时代AI芯片必备HBM内存已是业内共识,存储带宽也成为AI芯片仅次于的第二关健指标,甚至某些场合超越
    发表于 12-12 10:38 790次阅读
    大模型时代必备存储之<b class='flag-5'>HBM</b>进入汽车领域

    浅谈为AI大而生的存-体芯片

    大模型爆火之后,存一体获得了更多的关注与机会,其原因之一是因为存一体芯片的裸相比传统架构的AI
    发表于 12-06 15:00 366次阅读
    浅谈为AI大<b class='flag-5'>算</b><b class='flag-5'>力</b>而生的存<b class='flag-5'>算</b>-体<b class='flag-5'>芯片</b>