0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

成都汇阳投资关于跨越带宽增长极限,HBM 赋能AI新纪元

话说科技 来源:话说科技 作者:话说科技 2024-07-04 10:55 次阅读

AI 时代新需求,HBM 应运而生】

随着人工智能技术的快速发展,传统的 GDDR 内存逐渐达到其技术发展的瓶颈:

1)GDDR5 无法跟上 GPU 性能发展:AI 训练的参数量每两年增长 410 倍,而单 GPU 内存仅以每两年 2 倍的速度增长;硬件的峰值计算能力 20 年中提升了 60,000 倍,但 DRAM 带宽的增长却仅提高了 100 倍,互连带宽只提升了 30 倍。 内存难以跟上AI硬件的计算速度,限制了AI 芯片性能发挥,形成了“ 内存墙 ” ;

2)GDDR5限制了外形尺寸:为实现高带宽,越来越多的 GDDR5 和电路要集成在一起会限制产品的尺寸;

3)片上集成并非万能:片上集成的兼容和可拓展性受到限制。

HBM 的出现克服传统 GDDR 在带宽上的局限,并突破内存墙的限制,以适应AI 时代对高算力和高带宽内存的需求。

在HBM出现之前,DRAM按照产品分类主要分为 DDR、LPDDR 和 GDDR。其中 DDR 适用于计算机、服务器和其他高性 能计算设备等领域;LPDDR 适合移动设备和嵌入式系统等需要长时间使用的场景,如手机、平板、穿戴等;GDDR是为了 设计高端显卡而特别设计的高性能 DDR存储器规格,它比主内存中使用的普通 DDR存储器时钟频率更高,发热量更小,所以更适合搭配高端显示芯片。

HBM全称为 High Bandwidth Memory,即高带宽内存,它将多个DDR 芯片垂直堆叠在一起后和GPU封装在一起。与传统的DRAM相比,它确保了更多的 I/O (Input/Output,输入/输出)通道,一次可以传输大量的数据,在较小的物理空间内实现高带宽、低延迟和低功耗,从而成为数据中心等应用场景的新一代内存解决方案。

【国内HBM 初起步,三大巨头推进产线建设】

全球 HBM 市场长久以来都由三大存储原厂牢牢占据龙头地位。根据高盛的数据,2023 年 HBM市场的竞争格局中,海力士约占 54%,三星占 41%,美光占 5%。 海力士目前占据市场主导地位,三星紧随其后追击,而美光虽然目前市场份额较 小,但正在积极扩大产能和技术。由于HBM3E 产能不足,三大巨头或都进入英伟达供应链,目前美光抢先获得英伟达 H200 订单,海力士也开始量产供货英伟达, 三星已通过 AMD MI350 的验证,英伟达方面的验证时间稍晚于其他两家。

内DRAM 市场大部分份额仍然被三星、海力士和美光等占据,还有部分台湾厂商南亚科技、华邦电子等角逐市场份额,国内厂商的市场份额相对较小,主要DRAM 厂商有兆易创新、北京君正、东芯股份、长鑫存储、紫光国微、福建晋华等。

国内存储厂商武汉新芯和长鑫存储正处于 HBM 制造的早期阶段,主要是为了应对未来人工智能(AI)和高性能计算(HPC)领域的应用需求。其中武汉新芯正在针对 HBM 建造月产能 3000 片晶圆的 12 英寸工厂,长鑫存储则与封装和测试厂通富微电合作开发了HBM 样品,并向潜在的客户展示。

除存储大厂以外,华为也准备建立其内部 HBM 供应链。据 The Information 报道,华为已开始将其重点转移到有吸引力的HBM 市场。该联盟现在与从事存储器业务的公司合作。HBM在AI 市场的动态中发挥着至关重要的作用,特别是在 制造AI加速器时,HBM 在中国的供应受到更大程度的限制下,建立 HBM 内部生产链将有利提振未来国内AI 能力。

【AI 需求强劲驱动,HBM 量价齐升】

AI和高性能计算(HPC)领域的需求是 HBM 增长的主要驱动力。HBM显著的高速、高带宽和低功耗特性使得它在AI和高性能计算领域中具有广泛的应用前景。AI 服务器主流 GPU 如 H100、 A100、A800 以及 AMD MI250、MI250X 等基本都配备了 HBM。后续推出的王牌产品也持续升级 HBM 最新迭代版本,对 HBM 需求居高不下。

全球各大科技巨头都在竞购 HBM,AI 浪潮下HBM 市场规模将快速增长。根据腾讯科技的测算,2024 年全年,全球经由CoWoS 封装的 GPU 产品,产能约为 900 万颗。按照单颗 GPU 逻辑芯片搭配 6 颗 HBM内存颗粒的标准计算(部分搭配8 颗 HBM),全球 2024年的 GPU,对 HBM 内存的需求就在 5400 万颗以上(12 层为主)。TrendForce 预估 2023 年全球 HBM 需求量将年增近 60%,2024 年将再成长 30%。

《2023-2024 中国人工智能计算力发展评估报告》指出,中国AI 算力市场规模正在快速成长扩大,2023 年中国AI服务器市场规模将达 91 亿美元,同比增长 82.5%;智能算力规模预计达到 414.1EFLOPS(每秒百亿亿次浮点运算), 同比增长 59.3%;2022-2027 年期间,年复合增长率预计达 33.9%。

随着美国将限制 HBM 芯片对华出口,这种情况叠加 HBM 供不应求使得国内厂商购买到 HBM 的可能性大大下降,企业将转向国内HBM 厂商,未来中国 HBM 市场空间广阔。根据 IDC 的数据,2022 年上半年到 2023 年上半年,中国AI 加速卡出货约 109 万张,英伟达市场份额为 85%,华为市占率为 10%,百度市占率为 2%、 寒武纪和燧原科技均为 1%。随着国内HBM 从 0 到 1 实现突破后,市占约 15%的国产算力芯片厂商将会逐步切换为国产 HBM,替代空间广阔。

DRAM 市场经历了 2022 年平均销售单价的下滑后,三星在 2023 年 Q4 大幅减产,库存压力改善后 DRAM 出货拉升带动价格从 2023 年 9 月中旬开始持续上涨, 2024 年 Q1 投片量开始回升,产能利用率达到80%左右,下半年是旺季,需求预期将较上半年明显增加,产能会持续提升至 Q4。而 HBM 此前受ChatGPT 的 拉动同时受限产能不足,HBM 价格一路上涨,与性能最高的DRAM 相比,HBM3 的价格 上涨了五倍,预计 2024 年 HBM 价格还会再上涨 5-10%。HBM 呈现量价齐升的态势, SEMI 预计 2024 年市场规模达 70 亿美元,2030 年达 400 亿美元,2022- 2030 年CAGR 达 63.85%。

我们筛选出以下潜力标的

雅克科技(002409)公司是全球著名的磷酸酯阻燃剂生产企业,海力士为其前驱体业务第一大客户,配套供应 HBM 所需前驱体。

长电科技(600584)半导体存储市场领域,公司的封测服务覆盖 DRAM、Flash 等各种存储芯片产品,拥有 20 多年 Memory 封装量产经验,16 层 NAND Flash 堆叠,35um 超薄芯片制程能力,Hvbrid 异型堆叠等,都处于国内行业领先的地位。

盛美上海(688082)公司有刷洗设备、涂胶设备等 7 款产品用于先进封装。产品可覆盖完整的工艺流程,包括清洗、涂胶、显影、电镀、平坦化电抛光、光刻胶去除及湿法蚀刻等。年初以来盛美上海已多次收到先进封装清洗设备的采购订单, 及电镀设备的批量订单,最近又推出升级版的涂胶设备,该款设备在性能和外观进行了优化,应用于先进晶圆级封装。

参考资料华鑫证券-HBM 专题报告:跨越带宽增长极限,HBM 赋能AI新纪元.pdf

免责声明:本文由投资顾问: 冯利勇(执业证书编码:A1280620060001)、罗力川(登记编号:A1280622110002)等编辑整理,仅代表团队观点,任何投资建议不作为您投资的依据,您须独立作出投资决策,风险自担。请您确认自己具有相应的权利能力、行为能力、风险识别能力及风险承受能力,能够独立承担法律责任。 所涉及个股仅作投资参考和学习交流,不作为买卖依据。投资有风险,入市需谨慎!


审核编辑 黄宇


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 带宽
    +关注

    关注

    3

    文章

    849

    浏览量

    40383
  • AI
    AI
    +关注

    关注

    87

    文章

    27605

    浏览量

    265208
  • HBM
    HBM
    +关注

    关注

    0

    文章

    290

    浏览量

    14563
收藏 人收藏

    评论

    相关推荐

    比尔·盖茨展望AI:耳机与智能眼镜引领人机交互新纪元

    我们描绘了一幅人工智能(AI)技术普及后,生活与工作方式的全新图景。他特别指出,耳机与智能眼镜将成为AI硬件领域的两大焦点,引领人机交互进入前所未有的新纪元
    的头像 发表于 07-04 16:34 297次阅读

    技嘉科技推出GIGABYTE AI TOP,引领本地AI训练新纪元

    技嘉科技在COMPUTEX 2024前夕推出GIGABYTE AI TOP,引领本地AI训练新纪元   在即将到来的COMPUTEX 2024科技盛会前夕,全球知名的计算机硬件制造商技嘉
    的头像 发表于 06-11 14:11 333次阅读

    一图看懂2024华为智能充电网络开启超充新纪元

    一图看懂2024华为智能充电网络开启超充新纪元
    的头像 发表于 04-29 10:27 270次阅读
    一图看懂2024华为智能充电网络开启超充<b class='flag-5'>新纪元</b>

    高盛谈HBM四年十倍市场 受益于AI服务器持续增长

    高盛谈HBM四年十倍市场 受益于AI服务器持续增长 AI需求爆发引发HBM存储水涨船高,高盛认为HBM
    的头像 发表于 03-28 14:41 741次阅读

    高通重磅发布第三代骁龙7+,引领AI与性能新纪元

    近日,科技界掀起一阵狂潮,高通技术公司盛大发布第三代骁龙7+移动平台,此举不仅将终端侧生成式AI技术首次引入骁龙7系,更在性能上实现飞跃,CPU性能飙升15%,GPU性能更是惊人提升45%。这一革命性的移动平台,无疑将引领智能手机行业进入全新的AI与性能
    的头像 发表于 03-25 09:46 709次阅读

    HBM:突破AI算力内存瓶颈,技术迭代引领高性能存储新纪元

    HBM制造集成前道工艺与先进封装,TSV、EMC、键合工艺是关键。HBM制造的关键在于TSV DRAM,以及每层TSV DRAM之间的连接方式。
    发表于 03-14 09:58 452次阅读
    <b class='flag-5'>HBM</b>:突破<b class='flag-5'>AI</b>算力内存瓶颈,技术迭代引领高性能存储<b class='flag-5'>新纪元</b>

    HBMHBM2、HBM3和HBM3e技术对比

    AI服务器出货量增长催化HBM需求爆发,且伴随服务器平均HBM容量增加,经测算,预期25年市场规模约150亿美元,增速超过50%。
    发表于 03-01 11:02 628次阅读
    <b class='flag-5'>HBM</b>、<b class='flag-5'>HBM</b>2、<b class='flag-5'>HBM</b>3和<b class='flag-5'>HBM</b>3e技术对比

    芯原成都获评“年度技术企业”

    成都市集成电路行业协会在成都天府皇冠假日酒店召开了“成都集成电路产业发展大会”。大会上,芯原微电子 (成都) 有限公司 (以下简称:芯原成都
    的头像 发表于 01-22 10:23 462次阅读

    高通和三星为首个Galaxy AI的智能手机带来最先进的骁龙移动平台

    此次发布标志着高通和三星战略合作伙伴关系的又一里程碑,将开启移动AI体验新纪元
    的头像 发表于 01-18 09:06 415次阅读

    AI的突破与融合:2024年中国智能技术的新纪元

    随着人工智能领域的不断突破,2024年注定将成为中国智能技术发展的一个新纪元。当下,AI技术不仅在理论研究上取得了重大进展,其在商业应用、社会服务等领域的融合也日益深入。本文将结合近期网络上的AI热点,展望中国在
    的头像 发表于 01-03 15:41 484次阅读
    <b class='flag-5'>AI</b>的突破与融合:2024年中国智能技术的<b class='flag-5'>新纪元</b>

    巧用AIPMC管理,打造智能制造新纪元

    一、AIPMC管理的意义 PMC管理是企业生产计划和物料控制的核心环节,直接关系到企业的生产效率和成本控制。然而,传统的PMC管理方式往往存在效率低下、错误率高等问题。AI技术的引
    的头像 发表于 12-19 10:47 426次阅读
    巧用<b class='flag-5'>AI</b><b class='flag-5'>赋</b><b class='flag-5'>能</b>PMC管理,打造智能制造<b class='flag-5'>新纪元</b>!

    开启AI PC新纪元!英特尔酷睿Ultra重磅发布,胜任200亿参数大语言模型

    出色的计算和图形性能以及非凡的AI PC体验,英特尔宣布将与主流OEM伙伴推出230余款机型,开启AI PC新纪元
    的头像 发表于 12-16 15:14 1818次阅读
    开启<b class='flag-5'>AI</b> PC<b class='flag-5'>新纪元</b>!英特尔酷睿Ultra重磅发布,胜任200亿参数大语言模型

    国内首个“AI大模型产业中心”在京落地

          10月27日10点,“AI大模型产业中心”启动仪式在北京市海淀区五道口的智优沃科技大厦成功举办。“AI大模型产业
    的头像 发表于 10-30 10:27 1136次阅读
    国内首个“<b class='flag-5'>AI</b>大模型产业<b class='flag-5'>赋</b><b class='flag-5'>能</b>中心”在京落地

    HBM芯片市场前景可期,三星2023年订单同比增长一倍以上

    sk海力士负责市场营销的管理人员表示:“一台ai服务器至少需要500gb的hbm带宽内存和2tb的ddr5内存。人工智能是拉动内存需求的强大力量。”sk海力士预测,到2027年,随着人工智能的发达,
    的头像 发表于 09-12 11:32 751次阅读

    大模型应用:激发芯片设计新纪元

    的支持。蓬勃发展的大模型应用所带来的特殊性需求,正推动芯片设计行业迈向新纪元。众多顶级的半导体厂商纷纷为大模型应用而专门构建 AI 芯片,其高算力、高带宽、动辄千亿的晶体管数量成为大芯片的标配。 芯片设计复杂度,迈向新高峰 在人
    的头像 发表于 08-15 11:02 991次阅读
    大模型应用:激发芯片设计<b class='flag-5'>新纪元</b>