0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI时代核心存力HBM(中)

闪德半导体 来源:闪德半导体 2024-11-16 09:59 次阅读

HBM 对半导体产业链的影响1. HBM 的核心工艺在于硅通孔技术(TSV)和堆叠键合技术 硅通孔:TSV(Through-Silicon Via) 是一种能让 3D 封装遵循摩尔定律演进的互连技术,芯片与芯片之间(Chip to Chip)、芯片与晶圆之间(Chip to Wafer)、晶圆与晶圆之间(Wafer to Wafer)实现完全穿孔的垂直电气连接,可像三明治一样堆叠晶片。

这些垂直连接可用于互连多个芯片、存储器、传感器和其他模块,硅通孔互连赋予了各种 2.5D/3D封装应用和架构芯片纵向维度的集成能力,以最低的能耗/性能指标提供极高的性能和功能,以打造更小更快更节能的设备。

通过更薄的硅芯片缩短互连长度和短垂直连接,有助于减少芯片的整体面积和功耗、将信号传播延迟减少几个数量级。

同时可以实现异构集成,将来自不同技术和制造商的多个芯片组合到一个封装中,从而使它们能够提供更好的功能和性能。这使其非常适合用于不同的高速应用,如数据中心、服务器、图形处理单元 (GPU)、基于人工智能AI) 的处理器和多种无线通信设备。

HBM 通过 SIP 和 TSV 技术将数个 DRAM 裸片像楼层一样垂直堆叠,在 DRAM 芯片打上数千个 细微的孔,并通过垂直贯通的电极连接上下芯片的技术,可显著提升数据传输速度,适用于高存储器带宽需求,成为当前 AI GPU 存储单元的理想方案和关键部件。

HBM 通过 TSV 技术内部连接情况

英伟达 A100 SEM 扫描图 堆叠键合技术:在 HBM 产品开发之初,HBM 主要采用“TSV+Bumping”+TCB 键合方式堆叠(TSV 一般由晶圆厂完成,封测厂可在堆叠环节进行配套)。其中,热压键合主要用于创建原子级金属键合,它利用力和热量来促进原子在晶格之间迁移,从而形成清洁、高导电性和坚固的键合。

通常,TCB 被用于垂直集成器件的 CMOS 工艺、金引线和表面之间固态键合的顺应键合(compliant bonding)、用于将芯片凸块键合到基板的倒装芯片应用以及用于连接微型组件的热压键合。随着层数变高,晶片会出现翘曲和发热等因素,但又要满足 HBM 芯片的标准厚度——720 微米(μm),这就对封装工艺提出较高要求。

三星采用TC-NCF焊接法,在DRAM之间夹上一层不导电的粘合剂薄膜 (NCF),然后进行热压,但随着堆叠层数的增加散热效率很差,TCB 不再满足需求,但 TCB 技术仍有着一定的优势,如其解决了标准倒装芯片的基板翘曲问题。同时,这种键合方式确保均匀粘合,没有间隙变化或倾斜;而且这种粘合几乎没有空隙,也没有污染。

海力士从 HBM2e 开始放弃了 TC-NCF 工艺,改用批量回流模制底部填充(MR-MUF)工艺,即芯片之间用液态环氧模塑料作为填充材料,导热率比TC-NCF中的导热率高出2倍左右,实现了更低的键合应力和更优的散热性能,这无论对于工艺速度,还是良率等都有很大影响。预计海力士 HBM3e 将采用改进的 MR-MUF 工艺,进一步降低键合应力,提升散热性能, 增加堆叠层数。

SK 海力士 MR-MUF 技术

MR-MUF 比 NCF 导热率高出 2 倍左右 然而,无论是 TCB 技术还是 MR-MUF 工艺均存在着一定的局限性,难以实现更小的间距,行业内在尝试用混合键合技术。混合键合互连方案,是指在一个键合步骤中同时键合电介质(dielectric)和金属键合焊盘(metal bond pads),可以显著降低整体封装厚度,在多芯片堆叠封装中甚至可能高达数百微米。但混合键合对环境要求非常高,要达到 class1clean room(非常的清洁),这对厂商带来较大的挑战。

随着 HBM 历次迭代,HBM 中的DRAM 数量也同步提升,堆叠于 HBM2 中的 DRAM 数量为 4-8 个,HBM3/3E 则增加到8-12 个,HBM4 中堆叠的 DRAM 数量将增加到 16 个。

如 2024 年 4 月 7 日,三星电子先进封装团队高管 Dae Woo Kim 在 2024 年度韩国微电子与封装学会年会上表示,三星电子成功制造了基于混合键合技术的 16 层堆叠 HBM3 内存, 该内存样品工作正常,未来 16 层堆叠混合键合技术将用于 HBM4 内存量产。

三星 HBM4 预计采用混合键合技术 2 HBM 对散热材料 EMC 提出分散性和散热性要求HBM 对 EMC 提出分散性和散热性要求,EMC和填料价值量大幅提升。环氧塑封料(EMC,Epoxy Molding Compound),是一种常见的半导体封装外壳材料,也是半导体封装中主要的包封材料,EMC 中主要组分来自填料,其中调料主要用于降低膨胀系数和内应力、提高散热性能。 HBM 独特的叠构形态使得外围用于塑封的 EMC 及内部填料也需要相应的升级,具体逻辑在于: 1) HBM 采用芯片垂直叠构的框架,使得塑封的高度显著高于传统单芯片的塑封高度,较高的高度要求外围塑封料要有充分的分散性,则 EMC 就要从传统注塑饼状变为撒粉颗粒状的颗粒状环氧塑封料(GMC,Granular Molding Compound)和液态塑封料(LMC,Liquid Molding Compound),对于 EMC 厂商,这样的升级需要在配方中同时兼顾分散性和绝缘性,配方难度较大。

HBM 对 EMC 性能提出新要求,所用填料也需要改变 2) 由于 1 颗 HBM 中将搭载 4-8 层甚至更多层的存储芯片,单颗 HBM 中所涉及到的数据存 储和数据运输量较大,将带来发热量大的问题,散热方案的优劣将决定整颗 HBM 性能, 因此HBM的EMC中将开始大量使用low α球铝和球硅来保证快速散热和控制热膨胀问题。

当前运用 TSV 技术的场景主要在 2.5D 硅中阶层和 3D 垂直叠构,其中 3D TSV 的特点 在于通过垂直叠构的方式缩短了芯片间通信距离,相较于传统水平排布的方式,外围用于塑封的 EMC 及内部填料料也需要相应的升级。

一方面垂直叠构导致塑封的高度显著高于传统单芯片的塑封高度,较高的高度要求外围塑封料要有充分的分散性,则EMC就要从传统注塑饼状变为撒粉颗粒状的颗粒状环氧塑封料(GMC,GranularMolding Compound)和液态塑封料(LMC,Liquid Molding Compound),对于 EMC 厂商,这样的升级需要在配方中同时兼顾分散性和绝缘性,配方难度较大。

HBM 封装需要用到 GMC 和 LMC 两类偏高端的 EMC

另一方面采用 TSV 方式连接的芯片需要一起塑封,则单个塑封体中的运算量急剧上升,从而带来较大的发热问题,需要大量使用low α球铝和球硅来保证快速散热和控制热膨胀问题。

以 HBM 为例,1 颗 HBM 中将搭载4-8 颗甚至更多芯片,封装高度高且存储带宽大,需要用添加 low α球硅/球铝的GMC/LMC 来做塑封外壳。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    453

    文章

    50299

    浏览量

    421326
  • DRAM
    +关注

    关注

    40

    文章

    2303

    浏览量

    183250
  • HBM
    HBM
    +关注

    关注

    0

    文章

    371

    浏览量

    14690

原文标题:AI时代核心存力 HBM(中)

文章出处:【微信号:闪德半导体,微信公众号:闪德半导体】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    需求催生存风口,HBM竞争从先进封装开始

    无疑是今年最火热的高端存储产品。   在AI芯片需求不减竞争加剧的背景下,全球最大的两家存储器芯片制造商三星和SK海力士都在积极扩大HBM产量抢占AI芯片存风口。与此同时,作为
    的头像 发表于 12-03 08:34 2324次阅读

    AI时代核心存HBM(上)

      一、HBM 是什么? 1、HBMAI 时代的必需品作为行业主流存储产品的动态随机存取存储器 DRAM 针对不同的应用领域定义了不同的产 品,几个主要大类包括 LPDDR、DD
    的头像 发表于 11-16 10:30 104次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>时代</b><b class='flag-5'>核心存</b><b class='flag-5'>力</b><b class='flag-5'>HBM</b>(上)

    亿铸科技熊大鹏探讨AI大算芯片的挑战与解决策略

    在SEMiBAY2024《HBM与存储器技术与应用论坛》上,亿铸科技的创始人、董事长兼CEO熊大鹏博士发表了题为《超越极限:大算芯片的技术挑战与解决之道》的演讲,深入剖析了AI大模型时代
    的头像 发表于 10-25 11:52 307次阅读

    大模型时代的算需求

    现在AI已进入大模型时代,各企业都争相部署大模型,但如何保证大模型的算,以及相关的稳定性和性能,是一个极为重要的问题,带着这个极为重要的问题,我需要在此书中找到答案。
    发表于 08-20 09:04

    被称为“小号HBM”,华邦电子CUBE进阶边缘AI存储

    ,分享了华邦推出的CUBE产品在边缘AI上的应用优势以及对存储应用市场的看法等话题。   CUBE :小号HBM   “华邦电子近两三年都在推CUBE产品,我们可以把CUBE形象地看作小号的HBM。”朱迪说道,推动
    的头像 发表于 07-01 16:21 2863次阅读

    英伟达巨资预订HBM3E,力拼上半年算市场

    在全球AI芯片领域的激烈竞争,英伟达以其卓越的技术实力和市场影响,始终保持着领先地位。最近,这家AI芯片大厂再次展现出了其独特的战略眼光和强大的资金实力,以确保其新品GH200和H
    的头像 发表于 06-22 16:46 935次阅读

    中国AI芯片和HBM市场的未来

     然而,全球HBM产能几乎被SK海力士、三星和美光垄断,其中SK海力士占据AI GPU市场80%份额,是Nvidia HBM3内存独家供应商,且已于今年3月启动HBM3E量产。
    的头像 发表于 05-28 09:40 805次阅读

    一图看懂星河AI数据中心网络,全面释放AI时代

    华为中国合作伙伴大会 | 一图看懂星河AI数据中心网络,以网强算,全面释放AI时代
    的头像 发表于 03-22 10:28 695次阅读
    一图看懂星河<b class='flag-5'>AI</b>数据中心网络,全面释放<b class='flag-5'>AI</b><b class='flag-5'>时代</b>算<b class='flag-5'>力</b>

    AI时代势不可挡,HBM价格飙升突显其核心价值

    与传统的DRAM相比,HBM拥有更高的数据容量和更低的功耗,使其成为需要高性能和高效率的人工智能应用程序的理想选择。 一位业内人士表示,在人工智能计算系统领域,目前没有其他内存芯片可以取代HBM
    发表于 03-01 11:25 323次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>时代</b>势不可挡,<b class='flag-5'>HBM</b>价格飙升突显其<b class='flag-5'>核心</b>价值

    HBMHBM2、HBM3和HBM3e技术对比

    AI服务器出货量增长催化HBM需求爆发,且伴随服务器平均HBM容量增加,经测算,预期25年市场规模约150亿美元,增速超过50%。
    发表于 03-01 11:02 1154次阅读
    <b class='flag-5'>HBM</b>、<b class='flag-5'>HBM</b>2、<b class='flag-5'>HBM</b>3和<b class='flag-5'>HBM</b>3e技术对比

    AI大模型不断拉高上限,内存控制器IP提早部署,HBM3E的到来

    数据量、复杂度在增加,HBM内存被彻底带火。这种高带宽高速的内存十分适合于AI训练场景。最近,内存芯片厂商已经不约而同地切入HBM3E竞争当中。内存控制器IP厂商Rambus也率先发布HBM
    的头像 发表于 12-13 15:33 1401次阅读
    <b class='flag-5'>AI</b>大模型不断拉高上限,内存控制器IP提早部署,<b class='flag-5'>力</b>拱<b class='flag-5'>HBM</b>3E的到来

    HBM抢单大战,才刚刚拉开帷幕

    市场非常吃香的 HBM 内存。   AI 芯片带来的 HBM 热潮   在 AI 芯片的设计,除了需要先进工艺和先进封装在有限的面积下提
    的头像 发表于 12-13 01:27 1568次阅读
    <b class='flag-5'>HBM</b>抢单大战,才刚刚拉开帷幕

    大模型时代必备存储之HBM进入汽车领域

    大模型时代AI芯片必备HBM内存已是业内共识,存储带宽也成为AI芯片仅次于算的第二关健指标,甚至某些场合超越算
    发表于 12-12 10:38 761次阅读
    大模型<b class='flag-5'>时代</b>必备存储之<b class='flag-5'>HBM</b>进入汽车领域

    大算芯片里的HBM,你了解多少?

    最近,随着人工智能行业的高速崛起,大算芯片业成为半导体行业为数不多的热门领域HBM(高宽带内存:High-bandwidthmemory)作为大算芯片里不可或缺的组成部分,也因此走入了行业
    的头像 发表于 12-05 16:14 1570次阅读
    大算<b class='flag-5'>力</b>芯片里的<b class='flag-5'>HBM</b>,你了解多少?

    全面分析服务器/AI计算的算框架

    NAND、DRAM等核心存储器在制程方面临近极限,不断探索“3D”等多维解决方案。HBM基于其高宽带特性,成为了高性能GPU的核心组件,市场前景广阔。
    发表于 11-20 16:19 608次阅读
    全面分析服务器/<b class='flag-5'>AI</b>计算的算<b class='flag-5'>力</b>框架