0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

RRAM的芯片成为边缘工作负载的理想选择

IEEE电气电子工程师 来源:IEEE电气电子工程师 作者:IEEE电气电子工程师 2022-09-22 16:45 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

在软件和硅中复制人脑是人工智能AI)研究的长期目标。虽然神经形态芯片在能够同时运行多个计算方面取得了重大进展,并且既能计算也能存储数据,但它们还远未达到模拟大脑的能源效率。

人工智能计算是非常耗能的,但所消耗的能量大部分不是计算本身。能量密集型部分是在AI芯片内的内存和计算单元之间移动数据。为了解决这个问题,一组研究人员开发了一种新的内存计算(CIM)芯片原型,消除了这种分离的需要。他们在8月17日发表在《自然》杂志上的论文中声称,其原型展示了现有人工智能平台效率的两倍。之所以称为NeuRRAM,是因为它使用一种称为电阻式随机存取存储器(RRAM)的RAM,这种48核RRAM-CIM硬件支持多种神经网络模型和架构。

该论文的第一作者、斯坦福大学研究员Weier Wan表示,与传统内存相比,RRAM有很多优点。其中之一是在同一硅片区域内具有更高的容量,从而可以实现更大的AI模型。它也是非易失性的,意味着没有电源泄漏。他补充说,这使得基于RRAM的芯片成为边缘工作负载的理想选择。研究人员设想,NeuRRAM芯片可以在低功耗的边缘设备上有效地处理一系列复杂的人工智能应用,而不依赖于与云的网络连接。

为了设计NeuRRAM,团队必须权衡效率、多功能性和准确性,而不牺牲其中任何一项。Wan说:“主要创新是我们使用了一种新型的模数转换方案,因为这被认为是CIM芯片能源效率的主要瓶颈。我们发明了一种新的方案,它是基于感应电压,而以前的方案是基于感应电流。电压模式感应还允许在单个计算周期内提高RRAM阵列的并行性。”

他们还探索了一些新的体系结构,如可转置神经突触阵列(TNSA),以灵活地控制数据流方向。Wan解释道:“为了精确性,关键是算法和硬件协同设计。这基本上允许我们直接在这些AI模型中建模硬件特征。”这反过来又允许算法适应硬件非理想性并保持精确性。换言之,Wan总结道,他们优化了整个堆栈,从设备到电路,从架构到算法,设计出一款高效、通用、准确的芯片。

加州大学圣地亚哥分校研究员Gert Cauwenberghs是这篇论文的合著者之一,他说:“内存计算的大多数进展都局限于软件级的演示,基本上是使用一系列突触。但在这里,我们将其放在堆栈的水平层。”

NeuRRAM在手写数字识别任务中实现了99%的准确率,在图像分类任务中达到了85.7%,在谷歌语音命令识别任务中达到84.7%,在图像恢复任务中,图像重建错误减少了70%。研究人员总结道:“这些结果可以与现有的数字芯片相媲美,这些数字芯片在相同的比特精度下进行计算,但可以大幅节省能源。”

将NeuRRAM与Intel的Loihi 2神经形态芯片(800万神经元Pohoiki Beach系统的组成部分)进行比较,研究人员表示,他们的芯片具有更好的效率和密度。圣母大学(University of Notre Dame)另一位合著者兼研究员Siddharth Joshi补充道:“基本上,Loihi是一个标准的数字处理器,带有SRAM库和特定的可编程ISA(指令集)架构。它们使用了一种更为von Neumann–ish式的架构,而我们的计算是在位线本身上进行的。”

最近的研究还认为,包括Loihi在内的神经形态芯片可能具有比AI更广泛的应用范围,包括医疗和经济分析,以及量子计算需求。NeuRRAM的制造商同意这一观点,认为内存计算架构是未来的发展方向。Cauwenberghs补充道,NeuRRAM的可扩展性在架构方面表现得很好,“因为我们有这个并行的核心阵列,每个核心独立进行计算,这就是我们如何实现具有任意连接的大型网络的方法。”

研究人员表示,现在考虑商业化还为时过早。虽然他们认为芯片的高效硬件实现与内存计算是一个成功的组合,但广泛采用仍将取决于降低能效基准。

“我们正在继续努力整合学习规则,”Cauwenberghs报告说,“这样未来的版本将能够通过RRAM技术的进步进行循环学习,从而实现大规模的增量学习或产品学习。”Wan还补充道,为了实现商业化,RRAM技术必须更容易为芯片设计者所用。

审核编辑:彭静
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    463

    文章

    54378

    浏览量

    468988
  • 人工智能
    +关注

    关注

    1819

    文章

    50290

    浏览量

    266826
  • RRAM
    +关注

    关注

    0

    文章

    29

    浏览量

    21763

原文标题:新型AI芯片 其能效或是替代品的两倍

文章出处:【微信号:IEEE_China,微信公众号:IEEE电气电子工程师】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    AD7190:高精度测量应用的理想选择

    富的功能,成为了众多高精度测量应用的理想选择。今天,我们就来深入了解一下这款芯片。 文件下载: AD7190.pdf 一、AD7190的特性亮点 1. 低噪声与高分辨率 AD7190的
    的头像 发表于 04-01 09:15 376次阅读

    单相交、视在电能计量芯片 ADE7763:高精度计量的理想选择

    单相交、视在电能计量芯片 ADE7763:高精度计量的理想选择 在电子工程师的日常设计工作中,电能计量芯片
    的头像 发表于 03-30 15:45 152次阅读

    SGM791A单负载检测器:低功耗负载检测的理想选择

    SGM791A单负载检测器:低功耗负载检测的理想选择 在电子设备的设计中,准确检测负载的连接与移除对于系统的正常运行至关重要。SGMICRO
    的头像 发表于 03-24 09:15 442次阅读

    边缘计算AI芯片企业爱芯元智港股上市

    (中国香港)2026年2月10日,人工智能感知与边缘计算芯片领军企业爱芯元智半导体股份有限公司(0600.HK)正式于香港交易所主板挂牌上市,成为首家在港股上市的边缘计算AI
    的头像 发表于 02-11 16:51 1321次阅读

    爱芯元智通过港交所聆讯,有望成为“中国边缘AI芯片第一股”

    主板挂牌上市,有望成为“ 中国边缘AI芯片第一股 ”,中金公司、国泰君安国际、交银国际担任联席保荐人。 爱芯元智成立于2019年5月,致力于打造世界领先的人工智能感知与边缘计算
    的头像 发表于 01-26 10:10 531次阅读

    P*V 系列温度补偿芯片衰减器:电子设计的理想选择

    P*V 系列温度补偿芯片衰减器:电子设计的理想选择 在电子工程师的日常设计工作中,对于高性能、高稳定性电子器件的需求始终是重中之重。今天,我们就来详细探讨一款具有出色特性的电子元件——
    的头像 发表于 01-20 18:20 1131次阅读

    深入剖析TMDS141:HDMI信号处理的理想选择

    深入剖析TMDS141:HDMI信号处理的理想选择 在当今数字化的时代,高清视频传输变得愈发重要,HDMI接口作为高清视频传输的主流标准,其信号处理的质量直接影响到视频显示的效果。TI公司
    的头像 发表于 12-27 14:15 990次阅读

    如何加速实时工作负载

    对于需要实时响应的数据中心工作负载,性能不仅是指原始吞吐量或处理能力。挑战在于:在保持吞吐量和能效的同时,实现确定性时延。
    的头像 发表于 09-10 15:36 796次阅读

    集创北方联合发布首颗自研RRAM AMOLED显示驱动芯片

    近日,集创北方携手清华大学集成电路学院团队与新忆科技共同推出首颗采用自研RRAM新型存储技术的AMOLED显示驱动芯片(DDIC)“集忆智显”系列首款芯片R100,这也是集创北方首次在AMOLED
    的头像 发表于 08-30 11:50 1872次阅读
    集创北方联合发布首颗自研<b class='flag-5'>RRAM</b> AMOLED显示驱动<b class='flag-5'>芯片</b>

    替代LTC4413双通道理想二极管负载电流2.6A

    MOSFET 管电源开关,以便在 PC4302 不导通时控制第三路备用电源。PC4302 采用 DFN10 型封装,其工作温度范围为40°C~85°C。特征#双通道理想二极管 ORing 或负载均分#ORing
    发表于 08-25 09:28

    如何选择合适的直流负载或交流负载

    如何选择合适的直流负载或交流负载
    的头像 发表于 08-04 17:53 1353次阅读
    如何<b class='flag-5'>选择</b>合适的直流<b class='flag-5'>负载</b>或交流<b class='flag-5'>负载</b>?

    为何边缘设备正成为AI的新重心

    人工智能 (AI) 正在以惊人的速度发展。企业不再仅仅是探索 AI,而是积极推动 AI 的规模化落地,从实验性应用转向实际部署。随着生成式模型日益精简和高效,AI 的重心正从云端转向边缘侧。如今,人们不再质疑边缘 AI 是否能实现规模化,它已然
    的头像 发表于 07-30 09:12 990次阅读

    如何选择合适的电源芯片

    前言 什么是电源芯片?它有什么作用?在选择电源芯片的时候,应该考虑那些地方?输入电压线性调整率、输入电压线性变化时对输出电压的相对影响?下面先来了解几个概念问题: 1、输出电压负载
    发表于 06-07 08:50

    轻松上手边缘AI:MemryX MX3+结合Orange Pi 5 Plus的C/C++实战指南

    在 AI 和边缘计算快速发展的时代,MemryX MX3+ 加速卡凭借其 20 TOPS 的强大性能和低功耗(5 TFLOPS/W),成为边缘智能应用的理想
    的头像 发表于 05-28 08:01 1014次阅读
    轻松上手<b class='flag-5'>边缘</b>AI:MemryX MX3+结合Orange Pi 5 Plus的C/C++实战指南

    如何选择 边缘计算服务器

    延迟≤50ms; 视频分析、AI推理类需求侧重‌算力密度‌,建议选择支持16TOPS以上算力且兼容TensorFlow/PyTorch框架的服务器(如RK3588芯片平台); 教育、医疗等敏感数据处理场景,需内置国密加密芯片并支
    的头像 发表于 05-06 07:58 910次阅读
    如何<b class='flag-5'>选择</b> <b class='flag-5'>边缘</b>计算服务器