0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

人工智能芯片革命:HBM崛起

微云疏影 来源:综合整理 作者:综合整理 2023-12-19 14:18 次阅读

曾几何时,我们需要花费一个多小时才能下载一部电影。如今,最新处理器能够在一秒钟内处理相当于160多部全高清电影的数据量。高带宽内存(HBM)是实现这一高效数据传输的核心技术。虽然HBM在2013年首次亮相时曾面临商用风险评估,但是经过几年的发展和验证,现已成为人工智能芯片的基本要素。各大芯片制造商,例如英伟达AMD,均致力于推动此项尖端技术,以满足他们日益增长的处理能力及带宽需求。

大量数据生成式人工智能应用对传统存储芯片的性能产生了巨大挑战。为了应对这个问题,我们需要更快的数据传输速度和更高的处理效率,从而导致更密集的芯片布局以及更大的能耗输出。一直以来,传统安装形式均是将芯片平放在同一平面上,然后利用电缆及保险丝进行链接。这一方式会随着芯片数量的增多而降低通信和功耗效率。而HBM改变了这一状况,它将多个芯片沿垂直方向堆叠,同时利用尖端材料,包括比纸片还要纤小的微型电路板,将模块汇聚成为立体形态。这一改进对于人工智能芯片制造商来说极为重要,因为当芯片间距减小,能耗亦随之下降,HBM的能耗较之传统方式低了约四分之三。此外,HBM还拥有高达五倍的带宽优势,且占用空间小于现有产品的一半。

尽管如此,HBM的成本仍然较高,为常见内存芯片的五倍以上。然而,由于HBM满足了现代高性能人工智能芯片的特殊需求,因此此类集成了HBM的人工智能芯片也具有较高价值。与十年前相比,现在各大科技巨头的芯片投资预算明显增加。据TrendForce公司数据显示,全球HBM市场中50%的份额由韩国SK海力士占有,余下市场则被三星和美光瓜分。这两家公司分别生产了上一代以及即将面世的新款HBM芯片。

总的来说,在当前市场环境下,只有SK海力士公司能够大规模生产第三代HBM产品。据称,该公司满足了全球超过60%的客户需求,而其他竞争者则主要面向市场生产上一代产品。尽管HBM目前尚存在成本较高等问题,但毫无疑问的是,随着人工智能领域的不断拓展以及数据中心规模的扩大,对于HBM的需求将会持续攀升。预测至2023年6月份,全球HBM需求将同比增加60%。

2024年,人工智能芯片大战将进一步推动这一增长。AMD刚刚推出了一款新产品,希望与英伟达抗衡。全球市场供不应求,再加上人们对价格更低廉的英伟达产品需求旺盛,这意味着能够提供规格相当芯片的企业将有机会获得丰厚的利润。但是,撼动英伟达的关键不仅在于物理芯片本身,还在于其软件生态系统,其中包括流行的开发工具和编程模型。要想复制这一点,需要数年时间。

这就是为什么硬件,以及每块新芯片中的HBM数量,对英伟达的竞争者来说变得更加重要。通过使用升级的HBM来提高内存容量,是短期内获得竞争力的少数方法之一。例如,AMD最新的MI300加速器使用了8个HBM,比英伟达产品的5或6个要多。

芯片历来是一个周期性行业,容易出现剧烈的繁荣和萧条。从目前的趋势来看,新产品需求的持续增长应该会使未来的衰退期不像过去那么动荡。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1791

    文章

    46845

    浏览量

    237531
  • 存储芯片
    +关注

    关注

    11

    文章

    886

    浏览量

    43088
  • HBM
    HBM
    +关注

    关注

    0

    文章

    373

    浏览量

    14704
收藏 人收藏

    评论

    相关推荐

    嵌入式和人工智能究竟是什么关系?

    人工智能的结合,无疑是科技发展中的一场革命。在人工智能硬件加速中,嵌入式系统以其独特的优势和重要性,发挥着不可或缺的作用。通过深度学习和神经网络等算法,嵌入式系统能够高效地处理大量数据,从而实现
    发表于 11-14 16:39

    《AI for Science:人工智能驱动科学创新》第6章人AI与能源科学读后感

    幸得一好书,特此来分享。感谢平台,感谢作者。受益匪浅。 在阅读《AI for Science:人工智能驱动科学创新》的第6章后,我深刻感受到人工智能在能源科学领域中的巨大潜力和广泛应用。这一章详细
    发表于 10-14 09:27

    AI for Science:人工智能驱动科学创新》第4章-AI与生命科学读后感

    阅读这一章后,我深感人工智能与生命科学的结合正引领着一场前所未有的科学革命,以下是我个人的读后感: 1. 技术革新与生命科学进步 这一章详细阐述了人工智能如何通过其强大的数据处理和分析能力,加速生命科学
    发表于 10-14 09:21

    《AI for Science:人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

    ,无疑为读者铺设了一条探索人工智能(AI)如何深刻影响并推动科学创新的道路。在阅读这一章后,我深刻感受到了人工智能技术在科学领域的广泛应用潜力以及其带来的革命性变化,以下是我个人的学习心得: 1.
    发表于 10-14 09:12

    risc-v在人工智能图像处理应用前景分析

    RISC-V在人工智能图像处理领域的应用前景十分广阔,这主要得益于其开源性、灵活性和低功耗等特点。以下是对RISC-V在人工智能图像处理应用前景的详细分析: 一、RISC-V的基本特点 RISC-V
    发表于 09-28 11:00

    SK海力士开始先进人工智能芯片生产

    SK海力士宣布,公司已正式踏入人工智能芯片生产的新阶段,批量生产业界领先的12层HBM3E芯片。这款芯片不仅代表了SK海力士在内存技术上的重
    的头像 发表于 09-26 14:24 275次阅读

    名单公布!【书籍评测活动NO.44】AI for Science:人工智能驱动科学创新

    芯片设计的自动化水平、优化半导体制造和封测的工艺和水平、寻找新一代半导体材料等方面提供帮助。 第6章介绍了人工智能在化石能源科学研究、可再生能源科学研究、能源转型三个方面的落地应用。 第7章从环境监测
    发表于 09-09 13:54

    报名开启!深圳(国际)通用人工智能大会将启幕,国内外大咖齐聚话AI

    8月28日至30日,2024深圳(国际)通用人工智能大会暨深圳(国际)通用人工智能产业博览会将在深圳国际会展中心(宝安)举办。大会以“魅力AI·无限未来”为主题,致力于打造全球通用人工智能领域集产品
    发表于 08-22 15:00

    FPGA在人工智能中的应用有哪些?

    FPGA(现场可编程门阵列)在人工智能领域的应用非常广泛,主要体现在以下几个方面: 一、深度学习加速 训练和推理过程加速:FPGA可以用来加速深度学习的训练和推理过程。由于其高并行性和低延迟特性
    发表于 07-29 17:05

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V2)

    人工智能 工业检测:芯片模组外观检测实训part1 11分40秒 https://t.elecfans.com/v/25609.html *附件:芯片模组外观检测实训.pdf 人工智能
    发表于 05-10 16:46

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V1)

    https://t.elecfans.com/v/27186.html *附件:引体向上测试案例_20240126.pdf 人工智能 工业检测:芯片模组外观检测实训part1 11分40秒 https
    发表于 04-01 10:40

    美光量产行业领先的HBM3E解决方案,加速人工智能发展

    领先地位,并且凭借 HBM3E 的超凡性能和能效为人工智能(AI)解决方案赋能。 HBM3E:推动人工智能革命 随着
    的头像 发表于 03-04 18:51 1161次阅读
    美光量产行业领先的<b class='flag-5'>HBM</b>3E解决方案,加速<b class='flag-5'>人工智能</b>发展

    美光开始量产行业领先的 HBM3E 解决方案,加速人工智能发展

    里程碑式进展持续保持行业领先地位,并且凭借 HBM3E 的超凡性能和能效为人工智能(AI)解决方案赋能。     HBM3E:推动人工智能革命
    的头像 发表于 03-04 14:51 838次阅读
    美光开始量产行业领先的 <b class='flag-5'>HBM</b>3E 解决方案,加速<b class='flag-5'>人工智能</b>发展

    嵌入式人工智能的就业方向有哪些?

    嵌入式人工智能的就业方向有哪些? 在新一轮科技革命与产业变革的时代背景下,嵌入式人工智能成为国家新型基础建设与传统产业升级的核心驱动力。同时在此背景驱动下,众多名企也纷纷在嵌入式人工智能
    发表于 02-26 10:17

    大算力芯片里的HBM,你了解多少?

    最近,随着人工智能行业的高速崛起,大算力芯片业成为半导体行业为数不多的热门领域HBM(高宽带内存:High-bandwidthmemory)作为大算力
    的头像 发表于 12-05 16:14 1594次阅读
    大算力<b class='flag-5'>芯片</b>里的<b class='flag-5'>HBM</b>,你了解多少?