0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

被称为“小号HBM”,华邦电子CUBE进阶边缘AI存储

花茶晶晶 来源:电子发烧友 作者:黄晶晶 2024-07-01 16:21 次阅读

电子发烧友网报道(文/黄晶晶)与AI训练以GPU搭配HBM不同,边缘AI采用何种内存方式,DDR、GDDR、LPDDR等适用于不同的场景。日前,华邦电子产品总监朱迪接受包括电子发烧友网在内的媒体采访,分享了华邦推出的CUBE产品在边缘AI上的应用优势以及对存储应用市场的看法等话题

CUBE:小号HBM

“华邦电子近两三年都在推CUBE产品,我们可以把CUBE形象地看作小号的HBM。”朱迪说道,推动AI落地和发展的三大因素是算力、运力和存力。通常AI服务器上GPU需要大容量、高带宽的HBM,将GPU与存储芯片做在一颗芯片里面进行系统级封装。华邦的CUBE从大的方向讲也是类似的思路。

华邦电子推出的CUBE(Customized Ultra-Bandwidth Elements)是一种针对SoC(System on Chip)在DRAM合封上遇到的挑战所设计的创新内存产品。这种紧凑超高带宽DRAM专为边缘计算领域设计,通过将SoC裸片置于DRAM裸片上方,CUBE技术能够在不采用SoC的TSV(Through-Silicon Via)工艺的同时,达到降低成本和尺寸的目的。此外,它还改进了散热效果,并特别适用于对低功耗、高带宽以及中低容量内存有需求的应用场景。

CUBE拥有以下好处:

·节省电耗:CUBE 提供卓越的电源效率,功耗低于 1pJ/bit,能够确保延长运行时间并优化能源使用。

·卓越的性能:凭借 16GB/s 至 256GB/s 的带宽,CUBE 可提供远高于行业标准的性能提升。

·较小尺寸:CUBE 拥有更小的外形尺寸。目前基于 20nm 标准,可以提供每颗芯片 1Gb-8Gb 容量,2025 年将有 16nm 标准。引入硅通孔(TSV)可进一步增强性能,改善信号完整性、电源完整性、以 9 um pitch 缩小 IO 的面积和较佳的散热(CUBE 置下、SoC 置上时)。

·高经济效益、高带宽:CUBE 的 IO 速度于 1K IO 可高达 2Gbps,当与 28nm 和 22nm 等成熟工艺的 SoC 集成, CUBE 则可到达 32GB/s 至 256GB/s 带宽,相当于 HBM2 带宽, 也相当于 4 至 32 个 LP-DDR4x 4266Mbps x16 IO。

·SoC 芯片尺寸减小:SoC(不带 TSV,置上)堆叠在 CUBE(带 TSV,置下)上。如果去除 TSV 区域损失,其芯片尺寸可能会更小。能够为边缘 AI 设备带来更明显的成本优势。

朱迪表示,CUBE跟HBM的最大差别在于容量。HBM的容量非常大,CUBE的容量相对小一点。因为华邦主要做利基型存储、中小容量存储,瞄准的应用市场以边缘端为主,并非HBM针对云端、服务器端的计算。并且现在的大趋势是算力下沉,即云端的算力下放到边缘端,因为边缘侧响应速度更快,且更加安全。在云端,很多客户会担心数据的安全和隐私保护的问题。此外,在边缘端也能够做推理或者少量的训练,并且边缘端AI能力强还可以降低成本。

以汽车应用为例,汽车上的传感器众多包括雷达、摄像头等,如果在端侧传感器的感知算力足够强,数据进行预处理等,就不需要主控芯片进行处理。这就是典型的边缘侧AI处理降成本的方式。

目前CUBE在独立的ISP芯片应用的潜力非常大。朱迪表示,现在摄像头越来越多,仅靠主控处理器自带的ISP不够用的情况下,厂商会研发自己的ISP芯片,这就给低功耗的LPDDR4或者CUBE带来很大的机会。另外就是家用或行业用IP Camera,目前最高阶存储用到DDR4或LPDDR4,但未来不排除CUBE的应用机会。

汽车存储,与时俱进

数据显示,2022年以营收计算华邦电子是全球第五大车用存储厂商,华邦电子提供非常齐全的中小容量存储产品,包括NOR Flash、DDR3等,广泛应用于车用传感器、ADAS、智能座舱等。

朱迪谈到,当前仪表盘被集成化、一芯多屏,即整合娱乐屏、信息屏和仪表屏。而汽车是高安全性的产品,通常系统都有冗余备份,如果主控芯片由于某种原因坏了,屏幕照样要能够显示,这就要靠里面的小系统,小系统可以搭配华邦的中小容量存储。

华邦电子做为存储厂商来说,在汽车领域过去的直接用户是Tier1,现在也会给车厂直供,另外许多IDH或主控平台厂商也与我们密切互动,华帮要与他们的方案做适配提供给客户。这是汽车生态的变化,华邦也在与时俱进。

另外现在汽车行业竞争很激烈,产品迭代周期变短,有的厂商一年一款甚至几款新车上市,同时汽车还面临快速降价抢市场的现况,那么对存储芯片厂商的产品迭代以及供应能力都会带来新的挑战。华邦电子也在通过提高研发能力、制程工艺等方降低成本,助力客户实现降本的目标。

明年或是存储大年 中小容量存储机会大

中小容量的存储芯片相对于大容量的涨幅较小,且涨价趋势较慢。朱迪认为,存储行业前几大企业此前都在亏损,这是不正常的行业现象,那么后续通过价格的修改,能够促进整个行业健康持续发展。

对于今年下半年到明年上半年的市场趋势,华邦在需求面保持乐观的态度。特别是电子行业的电脑智能手机等出货量增加将带动整个行业的上扬。

另外,今年HBM占整个DRAM产能是个位数,根据第三方报告明年HBM可能会占到30%的产能。再加上PC正在从DDR4转移到DDR5,也会占用产能。朱迪预计明年可能是存储的大年,尤其是中小容量、利基型存储市场会有不错的光景。因此,华邦在去年行情不算太好的情形下仍然持续扩充产能,以应对未来需求的增加。


小结:

面向边缘AI,华邦除了CUBE产品外,注重拓展一些定制化、半定制化的创新型产品,在朱迪来看,通用类产品市场波动大,同质化竞争。而实际上客户需求差异大,尤其是一些领先厂商有自己的设计需求,华邦会持续提供创新型存储满足客户所需。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 存储
    +关注

    关注

    13

    文章

    3959

    浏览量

    84963
  • 华邦电子
    +关注

    关注

    0

    文章

    43

    浏览量

    16497
  • CUBE
    +关注

    关注

    0

    文章

    9

    浏览量

    9174
  • HBM
    HBM
    +关注

    关注

    0

    文章

    289

    浏览量

    14562
  • 边缘AI
    +关注

    关注

    0

    文章

    63

    浏览量

    4805
收藏 人收藏

    评论

    相关推荐

    生成式AI带飞,三大存储产品齐涨价

      电子发烧友网报道(文/黄晶晶)生成式AI存储芯片拉动最显著的莫过于HBM,由于GPU搭配HBM可用于
    的头像 发表于 06-16 09:05 2487次阅读

    宜鼎全面扩充边缘AI智能应用与智能存储

    解决方案,全面加速产业应用边缘AI落地 旗下首款工控级CXL内存、16TB大容量系列SSD,强化智能边缘端及数据中心建设 深圳2024年5月31日 /美通社/ -- 全球AI解决方案与
    的头像 发表于 05-31 15:04 155次阅读
    宜鼎全面扩充<b class='flag-5'>边缘</b><b class='flag-5'>AI</b>智能应用与智能<b class='flag-5'>存储</b>

    STM CUBE AI错误导入onnx模型报错的原因?

    使用cube-AI分析模型时报错,该模型是pytorch的cnn转化成onnx ``` Neural Network Tools for STM32AI v1.7.0 (STM.ai v8.0.0-19389) INTER
    发表于 05-27 07:15

    SK海力士HBM3E正式量产,巩固AI存储领域的领先地位

    SK海力士作为HBM3E的首发玩家,预计这款最新产品的大批量投产及其作为业内首家供应HBM3制造商所累积的经验,将进一步强化公司在AI存储器市场的领导者地位。
    的头像 发表于 03-19 15:18 529次阅读

    STM32H750可以使用Cube.AI吗?

    STM32H750,可以使用Cube.AI
    发表于 03-19 06:14

    cube AI导入Keras模型出错怎么解决?

    我尝试过cube AI的version7.1.0、6.0.0、5.1.2、4.1.0,导入Keras都是这个报错,求解答 E010(InvalidModelError): Couldn&
    发表于 03-18 06:39

    使用cube-AI分析模型时报错的原因有哪些?

    使用cube-AI分析模型时报错,该模型是pytorch的cnn转化成onnx ``` Neural Network Tools for STM32AI v1.7.0 (STM.ai v8.0.0-19389) INTER
    发表于 03-14 07:09

    为什么单颗裸芯会被称为die呢?

    Wafer、die、chip是半导体领域常见的术语,但是为什么单颗裸芯会被称为die呢?
    的头像 发表于 01-24 09:14 1522次阅读
    为什么单颗裸芯会<b class='flag-5'>被称为</b>die呢?

    大模型时代必备存储HBM进入汽车领域

    大模型时代AI芯片必备HBM内存已是业内共识,存储带宽也成为AI芯片仅次于算力的第二关健指标,甚至某些场合超越算力,是最关键的性能指标,而汽车行业也开始出现
    发表于 12-12 10:38 435次阅读
    大模型时代必备<b class='flag-5'>存储</b>之<b class='flag-5'>HBM</b>进入汽车领域

    算力强劲的AI边缘计算盒子# 边缘计算

    AI边缘计算
    成都华江信息
    发布于 :2023年11月24日 16:31:06

    什么是边缘计算盒子(AI算法盒子)?

    边缘计算盒子是一种基于边缘计算和人工智能技术的智能设备,它内置了灵活可配的多样化AI算法库,所以也被称为AI算法盒子或智能
    的头像 发表于 10-31 14:29 1670次阅读
    什么是<b class='flag-5'>边缘</b>计算盒子(<b class='flag-5'>AI</b>算法盒子)?

    华邦推出为边缘AI带来超高带宽内存的CUBE架构

    全球半导体存储解决方案领导厂商华邦电子今日宣布推出一项强大的内存赋能技术,可助力客户在主流应用场景中实现经济实惠的边缘 AI 计算。
    的头像 发表于 09-27 10:49 1611次阅读

    华邦推出创新CUBE架构 为边缘AI带来超高带宽内存

    2023 年 9 月 27 日,中国,苏州 —— 全球半导体存储解决方案领导厂商华邦电子今日宣布推出一项强大的内存赋能技术,可助力客户在主流应用场景中实现经济实惠的边缘 AI 计算。华
    发表于 09-27 10:44 210次阅读
    华邦推出创新<b class='flag-5'>CUBE</b>架构 为<b class='flag-5'>边缘</b><b class='flag-5'>AI</b>带来超高带宽内存

    为什么共源共栅运放被称为telescope?

    为什么共源共栅运放被称为telescope?  共源共栅运放,也被称为telescope,是一种特殊的MOSFET运放。它由一对共源共栅电路构成,可以被看作是两个基本的单级MOSFET放大器级联
    的头像 发表于 09-20 16:29 632次阅读

    人工智能(AI)X-CUBE-AI扩展包入门指南

    电子发烧友网站提供《人工智能(AI)X-CUBE-AI扩展包入门指南.pdf》资料免费下载
    发表于 08-01 09:39 2次下载
    人工智能(<b class='flag-5'>AI</b>)X-<b class='flag-5'>CUBE-AI</b>扩展包入门指南