为了满足高性能或满足人工智能(AI)需求,新型内存不断涌现,虽然理论上表明,更大的内存有助于AI性能的释放,但那些传统内存难道就无法满足高性能应用了吗?起码在某些边缘AI的设备来说,并非如此。
华邦电子公司的1Gb LPDDR3 DRAM就是一个很好的应用案例,人工智能初创公司Kneron已经将其应用在最新的SoC系统KL720上。它是该公司提供的几种用于各种边缘设备的SOC之一,包括电池驱动的应用程序,如智能锁和无人机,它利用了华邦的512Mb LPDDR2。通过在KL720 SoC中使用华邦的LPDDR3, Kneron希望为AI和机器学习技术支持一套新的低功耗/高性能应用程序。
华邦 DRAM市场经理Jacky Tseng介绍,华邦的LPDDR3 DRAM最大带宽为8.5GB/s,可使用1.2V/1.8V双电源,并提供深度断电模式和时钟停止功能等省电功能。这些规格使得Kneron的KL720等客户设备能够实时处理4K、全高清或3D传感器视频图像,从而支持人工智能应用,如安全摄像头中的人脸识别或公共亭中的手势控制,以及执行自然语言处理。据悉,华邦的1Gb LPDDR3 DRAM将以良品裸晶圆(KGD)供应,并与KL720中的全新Kneron神经网络处理器(NPU)封装在一起。
先了解一下KL720 SOC的实力。在MobileNetV2图像识别基准测试中,KL 720的能效是英特尔最新款Movidius芯片的两倍,是谷歌的Coral Edge TPU的四倍。可谓真正达到: 强算力、低功耗、超高性价比以及安全性。KL720的另一大亮点在于:支持完整的自然语言处理。与上一代芯片相比,这款升级版芯片可以处理分辨率为1080P的4K静止图像和视频。它还为公司带来了许多新的音频识别突破,Kneron表示,这将使搭载其芯片的设备能够不受简单「唤醒词」的约束,与设备进行即时的对话。总体而言,Kneron承诺其SoC的性能达到1.5 TOPS,而SoC使用Arm Cortex M4作为其主要控制单元。完整封装的平均功耗约为1.2W。
如此高性能的SOC,就算没有配备最新型的内存也能达到这样的水准,着实让人惊讶。
Tseng表示,随着大型DRAM厂商推出LPDDR4和LPPDR5,但很多客户并不需要那么高级的DRAM,他们也不想支付这么高的价格。像Kneron这样的客户正在寻找在相对低密度下具有一定性能水平的产品。“即使是LPDDR3也能完美支持并实施一些人工智能培训模式。人工智能训练模型可以优化以缩小大小,所以1Gb就足够了,但它仍然需要高带宽。”
Tseng介绍,除了Kneron KL720 SoC应用的需求之外,华邦的LPDDR3 DRAM的密度和带宽在汽车应用方面也有潜在的用途,比如使用必须实时处理视频图像摄像头的ADAS。如今的物联网端点有很多是需要进行基本的人工智能推断,这与Kneron SOC一样,需要低密度和高带宽。
据Tseng介绍,在边缘使用FPGA和ASIC进行推断将需要更多的内存,比如4Gb LPDDR4,而在由CPU和GPU驱动的云中心,更集中的人工智能训练和推断中需要的是更高的密度和更高的性能,甚至高带宽内存(HBM)和GDDR6的支持。实际上,边缘计算有许多需要不同功耗/性能比率的“层”,包括那些非常适合华邦的LPDDR3 DRAM的层。
Objective analyst的首席分析师Jim Handy表示,华邦有着广泛的产品系列,该公司的许多设备都是在需要低芯片数量的应用中销售。“他们在串行或闪存方面都很庞大,在较小的应用程序中销售大量SRAM,而DRAM在这些应用程序中就显得多余了。”
在人工智能发展到单一架构之前,人们曾预计它会有多种多样的选择,比如单一的微控制器芯片,或者拥有5个芯片的小型个人电脑。Handy:“人工智能的种类仍然多得令人难以置信,很难说这真的是一种趋势。”新型内存的出现也只能说是一种方向,或许在边缘端能够大有用处。
责任编辑:YYX
-
DRAM
+关注
关注
40文章
2334浏览量
183980 -
AI
+关注
关注
87文章
31845浏览量
270677 -
人工智能
+关注
关注
1797文章
47867浏览量
240889
发布评论请先 登录
相关推荐
AI赋能边缘网关:开启智能时代的新蓝海
如何在低功耗MCU上实现人工智能和机器学习
研华科技边缘AI平台荣获2024年IoT边缘计算卓越奖
STM32WB0系列无线微控制器满足低功耗蓝牙应用需求
![STM32WB0系列无线微控制器<b class='flag-5'>满足</b><b class='flag-5'>低功耗</b>蓝牙应用<b class='flag-5'>需求</b>](https://file1.elecfans.com/web1/M00/F2/C0/wKgZoWcJ5zWAfizDAAJDUvXfR2M358.jpg)
三星电子实现低功耗LPDDR5X DRAM的量产
让边缘AI实现性能和功耗的平衡,英飞凌新一代PSOC™ Edge MCU如何做到?
![让<b class='flag-5'>边缘</b><b class='flag-5'>AI</b>实现性能和<b class='flag-5'>功耗</b>的平衡,英飞凌新一代PSOC™ Edge MCU如何做到?](https://file1.elecfans.com/web2/M00/F1/E0/wKgZomZ2MnSAMKgtAAJOJBiuqig205.png)
更低功耗、更小尺寸、更高性能……创新存储如何满足“既要、又要、还要”的苛刻设计需求
![更<b class='flag-5'>低功耗</b>、更小尺寸、更高性能……创新存储如何<b class='flag-5'>满足</b>“既要、又要、还要”的苛刻设计<b class='flag-5'>需求</b>](https://file1.elecfans.com//web2/M00/F1/74/wKgZomZ1IZmAS3OrAAGiiY_eR3Y007.png)
边缘AI需求爆发,边缘计算网关亟待革新
芯品#MAX78002 新型AI MCU,能够使神经网络以超低功耗运行
![芯品#MAX78002 新型<b class='flag-5'>AI</b> MCU,能够使神经网络以超<b class='flag-5'>低功耗</b>运行](https://file1.elecfans.com/web2/M00/E2/CA/wKgaomY59_WAXWJrAAG8H3eHkPQ068.png)
评论