0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

非易失电导态对神经网络计算硬件系统的构建

ExMh_zhishexues 来源:知社学术圈 作者:知社学术圈 2022-03-14 17:28 次阅读

神经网络为代表的类脑人工智能技术在计算机视觉、自然语言处理、自动驾驶等方面有重要应用。但目前运行神经网络计算的硬件系统依然基于传统硅基运算器与存储器,由于冯·诺伊曼瓶颈的原理限制,其能效远低于人脑。研发具有神经形态模拟功能的类脑器件,如神经网络硬件系统的核心器件——具有存算一体功能的电子突触,是进一步推进人工智能发展的重要途径之一。为执行复杂的人工智能任务,电子突触器件需要满足诸多苛刻要求,如:连续可调的非易失电导态数目(用于模拟脑突触的连续可调性)大于100,非线性度小于1(好的线性度有助于精准调控电导),开关比大于100,翻转耐久大于109次,周期随机性小于3%。然而,已报道的类脑突触器件无法全面满足上述指标要求。

研究人员提出了多种构建类脑突触器件的原理方案。其中,基于铁电非易失电极化和量子隧穿效应的铁电隧道结,因为有潜力构建成为高性能类脑突触器件而备受关注。铁电隧道结的电导调控基于铁电畴的连续翻转所调控的隧穿势垒,在原理上具有稳定性高、功耗低、速度快等诸多优势。因此,基于铁电隧道结,设计并构筑高性能类脑突触原型器件,使其具有高精度、线性调节的非易失电导态,未来应用于神经网络计算硬件系统的构建,有重要意义。

基于上述背景,中国科学技术大学李晓光教授团队通过对铁电畴形态和翻转动力学的设计,在铁电量子隧道结中实现了亚纳秒电脉冲下电导态可非易失连续调控的类脑突触器件,可用于构建人工神经网络类脑计算系统,该成果以“High-precision and linear weight updates by subnanosecond pulses in ferroelectric tunnel junction for neuro-inspired computing”为题发表在Nature Communications上。

研究人员制备了高质量Ag/PbZr0.52Ti0.48O3(PZT~1.2 nm,(111)取向)/Nb:SrTiO3铁电隧道结(如图1a)。通过设计PZT的超薄厚度和(111)取向,在铁电势垒层中实现了更丰富的铁电多畴亚稳态(如图1b, c),在外加电场下,铁电畴的翻转动力学行为更加连续,因而器件的电导调节更加连续、平缓,更有利于多态的实现。该器件综合性能优异,主要表现在:

1038a208-98f9-11ec-952b-dac502259ad0.png

图1:铁电隧道结类脑突触器件及其铁电多畴结构。a. 铁电隧道结类脑突触器件结构示意图。b. 铁电隧道结不同铁电畴区的原子分辨像。c. 不同厚度PZT薄膜中多畴结构的面外、面内PFM相位。

1)亚纳秒超快操作速度、飞焦级低能耗,媲美人脑突触的能效表现。

通过能带设计、降低铁电层厚度、选择处于准同型相界处具有较低矫顽场的PZT作为铁电势垒层,有效地降低了器件的操作电压,仅需 《 5 V的电压就能在630 ps的操作速度下实现可分辨的阻态翻转(如图2a)。而器件最快操作速度可至300 ps(可以匹配目前CPU的操作速度,如图2b)。此外,器件具有良好的可分辨多态(4比特)保持特性(如图2c)。通过对直径为50 nm的铁电隧道结的性能表征,发现其操作能耗低至5.3 fJ/bit。基于上述性能推算,该铁电隧道结构建的神经网络计算系统有可能实现媲美人脑的优秀能效(人脑单次突触活动的能耗约为1 ~100 fJ),且响应速度比人脑突触快6个量级(人脑突触响应速度约为亚毫秒)。

2)高精度、线性的电导调控和高耐久性,满足类脑突触器件的核心性能指标要求。

在10 ns的脉宽下(与DRAM操作速度相当),实现了8比特(256个)连续可调的非易失电导状态,且非线性度低(《1),开关比大(~100),周期随机性小(~2.06%)(如图2d);甚至在亚纳秒(630 ps)的操作速度下,器件仍然可以调节出150个连续的电导态(如图2e)。此外,器件表现出》109次的翻转耐受性(如图2f)。器件具有优良的突触塑性调节功能和良好的翻转耐受性,满足了类脑突触器件的核心性能指标要求。

10734de0-98f9-11ec-952b-dac502259ad0.png

1087383c-98f9-11ec-952b-dac502259ad0.png

图2:铁电隧道结类脑突触器件的性能表征。a. 630 ps脉宽的脉冲电压下,类脑突触器件的电阻在不同阻态之间的往复翻转。b. 不同脉宽的电脉冲下类脑突触器件电阻的连续调控。c. 类脑突触器件的16个可分辨阻态的保持特性。d, e. 10 ns 和 630 ps 脉宽的电脉冲下隧道结类脑突触器件的长时程增强和抑制模拟。f. 类脑突触器件的翻转耐受性。

3)基于器件电导调控性能,仿真构建的神经网络具有高图像识别率。

基于该铁电隧道结的实验性能,仿真构建的卷积神经网络(如图3a)类脑计算系统可在线学习并识别Fashion-MNIST数据库的时尚产品图片,准确率达~94.7%,非常接近于基于浮点的神经网络软件计算结果~95.6%(如图3b);此外,仿真构建的人工神经网络还体现出良好的抗噪声能力,即使在识别图片中引入椒盐或高斯噪声(噪声水平达0.5),其识别时尚产品图片的准确率仍然可达~85%(如图3c, d, e)。

10995b8e-98f9-11ec-952b-dac502259ad0.png

10ef106a-98f9-11ec-952b-dac502259ad0.png

11037c94-98f9-11ec-952b-dac502259ad0.png

图3:基于器件性能,仿真构建神经网络。a. 仿真构建的ResNet-18卷积神经网络结构示意图。b. 识别Fashion-MNIST数据库中时尚产品图片的准确率随训练次数的变化。c, d. 识别加入不同水平的椒盐噪声和高斯噪声的Fashion-MNIST时尚产品图片的准确率随训练次数的变化。e. 识别Fashion-MNIST时尚产品图片的准确率随加入椒盐噪声和高斯噪声的水平的变化。

上述基于铁电隧道结设计的类脑突触原型器件具有超快、低能耗、高耐久特性,特别是具有稳定、线性、准连续的电导态调控优势,满足了类脑突触器件的高要求,展现了铁电隧道结在构建未来高性能类脑人工智能计算硬件系统方面的重要潜力。中国科学技术大学物理系博士生罗振、王梓鉴、管泽雨为文章的共同第一作者,中国科学技术大学李晓光教授、殷月伟教授为文章的通讯作者。

该项研究得到了国家自然科学基金、科技部国家重点研发计划、中国科学技术大学“双一流”人才团队平台项目的资助。

原文标题:Nat. Commun.: 基于铁电隧道结的高性能类脑突触原型器件

文章出处:【微信公众号:知社学术圈】欢迎添加关注!文章转载请注明出处。

审核编辑:彭菁
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 神经网络
    +关注

    关注

    42

    文章

    4751

    浏览量

    100445
  • 硬件系统
    +关注

    关注

    0

    文章

    48

    浏览量

    11339
  • 人工智能技术

    关注

    2

    文章

    211

    浏览量

    10514

原文标题:Nat. Commun.: 基于铁电隧道结的高性能类脑突触原型器件

文章出处:【微信号:zhishexueshuquan,微信公众号:知社学术圈】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    神经网络教程(李亚非)

      第1章 概述  1.1 人工神经网络研究与发展  1.2 生物神经元  1.3 人工神经网络的构成  第2章人工神经网络基本模型  2.1 MP模型  2.2 感知器模型  2.3
    发表于 03-20 11:32

    神经网络系统辨识程序

    神经网络系统辨识程序
    发表于 01-04 13:29

    局部神经网络,打造未来神经网络基本组件

    `将局部计算作为获取长时记忆的通用模块,提高神经网络性能在深度神经网络中,获取长时记忆(long-range dependency)至关重要。对于序列数据(例如语音、语言),递归运算
    发表于 11-12 14:52

    【PYNQ-Z2试用体验】神经网络基础知识

    学习和认知科学领域,是一种模仿生物神经网络(动物的中枢神经系统,特别是大脑)的结构和功能的数学模型或计算模型,用于对函数进行估计或近似。神经网络由大量的人工
    发表于 03-03 22:10

    【案例分享】ART神经网络与SOM神经网络

    今天学习了两个神经网络,分别是自适应谐振(ART)神经网络与自组织映射(SOM)神经网络。整体感觉不是很难,只不过一些最基础的概念容易理解不清。首先ART神经网络是竞争学习的一个代表,
    发表于 07-21 04:30

    人工神经网络实现方法有哪些?

    人工神经网络(Artificial Neural Network,ANN)是一种类似生物神经网络的信息处理结构,它的提出是为了解决一些非线性,平稳,复杂的实际问题。那有哪些办法能实现人工神经
    发表于 08-01 08:06

    如何设计BP神经网络图像压缩算法?

    神经网络的并行特点,而且它还可以根据设计要求配置硬件结构,例如根据实际需要,可灵活设计数据的位宽等。随着数字集成电路技术的飞速发展,FPGA芯片的处理能力得到了极大的提升,已经完全可以承担神经网络数据压缩
    发表于 08-08 06:11

    如何移植一个CNN神经网络到FPGA中?

    训练一个神经网络并移植到Lattice FPGA上,通常需要开发人员既要懂软件又要懂数字电路设计,是个不容易的事。好在FPGA厂商为我们提供了许多工具和IP,我们可以在这些工具和IP的基础上做
    发表于 11-26 07:46

    如何构建神经网络

    原文链接:http://tecdat.cn/?p=5725 神经网络是一种基于现有数据创建预测的计算系统。如何构建神经网络
    发表于 07-12 08:02

    基于BP神经网络的PID控制

    最近在学习电机的智能控制,上周学习了基于单神经元的PID控制,这周研究基于BP神经网络的PID控制。神经网络具有任意非线性表达能力,可以通过对系统性能的学习来实现具有最佳组合的PID控
    发表于 09-07 07:43

    神经网络移植到STM32的方法

    神经网络移植到STM32最近在做的一个项目需要用到网络进行拟合,并且将拟合得到的结果用作控制,就在想能不能直接在单片机上做神经网络计算,这样就可以实时
    发表于 01-11 06:20

    如何构建神经网络

    神经网络是模拟人体生物神经元原理构建的,比较基础的有M-P模型,它按照生物 神经元的结构和工作原理构造出来的一个抽象和简化的模型。
    的头像 发表于 02-24 16:06 1775次阅读
    如何<b class='flag-5'>构建</b><b class='flag-5'>神经网络</b>

    构建神经网络模型的常用方法 神经网络模型的常用算法介绍

    神经网络模型是一种通过模拟生物神经元间相互作用的方式实现信息处理和学习的计算机模型。它能够对输入数据进行分类、回归、预测和聚类等任务,已经广泛应用于计算机视觉、自然语言处理、语音处理等
    发表于 08-28 18:25 1007次阅读

    PyTorch神经网络模型构建过程

    PyTorch,作为一个广泛使用的开源深度学习库,提供了丰富的工具和模块,帮助开发者构建、训练和部署神经网络模型。在神经网络模型中,输出层是尤为关键的部分,它负责将模型的预测结果以合适的形式输出。以下将详细解析PyTorch中
    的头像 发表于 07-10 14:57 425次阅读

    如何构建多层神经网络

    构建多层神经网络(MLP, Multi-Layer Perceptron)模型是一个在机器学习和深度学习领域广泛使用的技术,尤其在处理分类和回归问题时。在本文中,我们将深入探讨如何从头开始构建一个多层
    的头像 发表于 07-19 17:19 663次阅读