0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

视网膜形态芯片及其不同的图像信息处理方式

ExMh_zhishexues 来源:知社学术圈 作者:知社学术圈 2020-07-01 16:22 次阅读

在人脑处理的信息中,超过80%都是通过眼睛获得的。人眼不仅可以进行信息的探测和同步处理,而且整体功耗极小(远小于20瓦)。相比而言,传统的机器视觉系统需要先探测再处理,使用的图像传感器在探测目标图像的同时会产生大量冗余信息,此类信息通过有限的带宽传输给所连接的计算机进行处理和分析,从而导致较大的时间延迟和较高的功耗。因此,构建一个可以媲美人眼、具备同步进行信息探测和处理功能的类脑视觉传感器是人们一直追求的梦想,对于智能工业自动驾驶、智能安防等应用的发展也至关重要。近日,南京大学物理学院缪峰教授团队基于二维材料异质结,在可重构类脑视觉传感器领域取得重要进展。

二维材料有望成为后摩尔时代重要的基础电子材料,该领域的发展也让人们可以对原子层材料进行乐高式的堆叠和集成。近年来,南京大学缪峰团队(https://nano.nju.edu.cn)利用“原子乐高”分别在耐高温忆阻器(Nature Electronics 2018)、弹道雪崩探测器件(Nature Nanotechnology 2019)、室温高灵敏红外探测器(Science Advances 2017)等方向取得突破。

在此基础上,该团队近日提出,利用二维材料范德华异质结器件的结构特点和可调的光响应特性,能够实现对人眼视网膜的层状结构和感光细胞、双极细胞的生物特性模拟,基于这种类视网膜形态器件,团队进一步构建了能够对感知的图片信息进行同步处理的类脑视觉器件阵列。该工作有望为未来开发基于范德华异质结的新型类脑视觉芯片提供物理和技术基础。相关研究成果以《Gate tunable van der Waals heterostructure for reconfigurable neural network vision sensor》(基于栅极可调范德华异质结的可重构神经网络视觉传感器)为题于 2020年6月24日发表在Science Advances上。南京大学物理学院博士生王晨宇和梁世军副研究员为共同第一作者,缪峰教授和美国麻省大学的杨建华教授为该工作的共同通讯作者,该工作同时得到了王振林教授课题组、陈坤基教授课题组和王肖沐教授课题组的实验协助,和国家杰出青年科学基金、国家自然科学基金等项目的资助,以及微结构科学与技术协同创新中心的支持。

研究成果

人类视觉系统强大的信息处理能力很大程度上依赖于视网膜的结构和功能。视网膜中的主要细胞包括感光细胞、双极细胞等,这些细胞之间是垂直分层分布的结构。光透过瞳孔入射到视网膜上后,感光细胞将入射光转换为电学信号,流经双极性细胞,利用双极性细胞的生物特性对电学信息进行一定的加工和处理,加工后的图像信息仅仅保留其主要的特征,再传输至大脑皮层进行进一步的图像处理和理解。通过这种方式,视网膜在一定程度上实现了信息探测和处理的同步进行。为了实现对视网膜结构和功能的逼真模拟,在该工作中,缪峰团队提出可以通过“原子乐高”的方式搭建基于二维材料垂直异质结的类脑视觉传感器,这些垂直结构不仅能够自然地模仿视网膜的垂直分层结构,而且异质结中包含的不同二维材料可被用来模拟视网膜中不同细胞的功能。

在实验中,缪峰团队首先将机械剥离的薄层硒化钨和氮化硼以及氧化铝制备成垂直异质结器件。该异质结器件在无背栅或者正背栅电压作用下,呈现出正的光电导行为,类似于双极细胞的正的光响应;当所加背栅电压为负的时候,器件展现出了负光电响应特征与双极细胞的负响应类似。研究团队通过一系列的对比实验结果,指出器件的负光学响应来源于光诱发带电杂质产生的电场屏蔽效应。通过控制垂直异质结器件的栅压,团队首次实现了对感光细胞和双极细胞的生物功能的模拟,器件的响应时间和功耗均接近人类视网膜的水平(图1)。

图 1. 视网膜和视网膜形态器件。(a)视网膜的垂直分层结构包括了视锥细胞和双极性细胞以及视神经节细胞;(b)双极性细胞在不同刺激条件下所具有的生物光学响应特征;(c)类视网膜形态器件的光学图;(d)垂直异质结器件在不同栅压作用下展现出不同的光学响应,类似于视网膜结构中双极性细胞的生物特征。

进一步,研究团队将垂直异质结器件组装成 3×3 的一个阵列,利用异质结器件栅压可调的光电响应特征,将图像处理中常用的数学卷积核映射到3×3 的器件阵列中,实现了可重构的图像信息处理功能(图2),包括边缘增强、图像风格化、图像强度校正等。研究发现这些实验结果与采用相同卷积核处理后的模拟结果一致,这表明基于垂直异质结阵列能够被用于在硬件上直接进行图片信息的处理。

图 2. 可重构的视网膜形态芯片及其不同的图像信息处理方式。(a)背栅独立控制的可重构视觉传感器阵列示意图;利用传感器阵列对南京大学校徽图片进行(b)图像风格化(c)边缘增强(d)强度校正处理,所处理后的图片信息和采用相同卷积核的模拟结果一致。

基于范德华异质结器件的功能应用除了同步的探测和信息的处理之外,研究团队发现器件阵列还可以用于图片的分类任务。通过将器件电导作为神经网络的权值,背栅的调节变化作为更新神经网络权值的一种手段,范德华异质结器件阵列可以执行神经网络的功能。研究团队在实验中采用软件辅助硬件的训练方法实现了对输入图像“N”,” J”, “U”字母的快速识别(图3)。这一项工作从原理上证明,利用范德华异质结的特性模拟人类视网膜结构和功能的研究思路有望将来被用来实现新型的类脑视觉芯片。

图 3. 基于范德华异质结视觉形态的传感器神经网络及训练示意图和识别结果。(a)待识别的图片字母信息;(b)异质结视觉形态传感器神经网络训练示意图;(c)N”,” J”, “U”三类字母平均识别结果与训练次数的关系;(d)N”,” J”, “U”三类字母的分类情况与训练次数的关系。
责任编辑:pj

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 图像传感器
    +关注

    关注

    68

    文章

    1925

    浏览量

    129753
  • 机器视觉
    +关注

    关注

    162

    文章

    4417

    浏览量

    120853
  • 自动驾驶
    +关注

    关注

    785

    文章

    13954

    浏览量

    167255
收藏 人收藏

    评论

    相关推荐

    FPGA上的图像处理算法集成与优化

    、Tophat形态学滤波、RAW8转RGB888、彩色图像均值滤波、Alpha背景叠加、直方图灰度拉伸算法以及自动白平衡算法。每种算法都提供了实现方法和相关公式,涵盖了图像处理的核心概
    的头像 发表于 02-14 13:46 70次阅读
    FPGA上的<b class='flag-5'>图像</b><b class='flag-5'>处理</b>算法集成与优化

    TVP7002SOG 4线制的复合同步可以按照绿同步的处理方式进行处理吗?

    我这边VGA的信号源是4线制的,即R、G、B及复合同步信号,想用TVP7002将其转换为数字信号,想问下复合同步信号能否通过一个电容接到SOGIN管教,或者直接接到SOGIN管教吗,想知道4线制的复合同步可以按照绿同步的处理方式进行处理吗?谢谢
    发表于 01-17 07:32

    多领域广泛应用,DSP芯片市场有多大?

    。 过去数字信号处理主要是通过微处理器来完成,但是随着终端应用产品的发展与更迭,传统微处理器的处理速度已经无法满足大信息量的高速实时要求。在
    的头像 发表于 12-12 10:28 284次阅读
    多领域广泛应用,DSP<b class='flag-5'>芯片</b>市场有多大?

    触摸屏的信息可以直接和DS90UB928 I2C通信吗?

    想请问下,触摸屏的信息可以直接和928通信吗?参考928的datasheet,他支持I2C,理论上是可以的,有没有大神用过这样的处理方式
    发表于 12-02 06:20

    图像处理器是什么意思

    图像处理器(Image Processor)是一种专门用于图像处理和计算的硬件设备或芯片,它通过高速数据传输、
    的头像 发表于 08-14 09:28 1120次阅读

    INA592 DRC封装里的+INOP和–INOP引脚除了接+IN和-IN引脚还有其它处理方式吗?可以直接悬空不?

    INA592: DRC封装里的+INOP和–INOP 引脚除了接+IN和-IN引脚还有其它处理方式吗?可以直接悬空吗?
    发表于 07-30 08:13

    神经元芯片的主要特点和优势

    神经元芯片,又称神经芯片或神经元网络芯片,是一种专为实现网络通信和控制功能而设计的先进半导体芯片。这类芯片的设计灵感部分源自于对人脑神经元网
    的头像 发表于 07-12 16:42 1346次阅读

    如何利用CNN实现图像识别

    卷积神经网络(CNN)是深度学习领域中一种特别适用于图像识别任务的神经网络结构。它通过模拟人类视觉系统的处理方式,利用卷积、池化等操作,自动提取图像中的特征,进而实现高效的图像识别。本
    的头像 发表于 07-03 16:16 1558次阅读

    基于FPGA的实时边缘检测系统设计,Sobel图像边缘检测,FPGA图像处理

    计算机软件实现方式有更快的处理速度。 经验证,系统工作稳定,满足实时性要求 。 MATLAB 与 FPGA无线通信、图像处理、数字信号处理
    发表于 05-24 07:45

    PMP21939.1-汽车远程信息处理控制单元四输出同步降压PCB layout 设计

    电子发烧友网站提供《PMP21939.1-汽车远程信息处理控制单元四输出同步降压PCB layout 设计.pdf》资料免费下载
    发表于 05-15 11:17 2次下载
    PMP21939.1-汽车远程<b class='flag-5'>信息处理</b>控制单元四输出同步降压PCB layout 设计

    带远程信息处理板的 TFT 仪表盘数据手册

    电子发烧友网站提供《带远程信息处理板的 TFT 仪表盘数据手册.rar》资料免费下载
    发表于 05-14 17:18 0次下载
    带远程<b class='flag-5'>信息处理</b>板的 TFT 仪表盘数据手册

    PMP30676.1-适用于汽车远程信息处理控制单元的 24W非同步SEPIC 前置稳压器 PCB layout 设计

    电子发烧友网站提供《PMP30676.1-适用于汽车远程信息处理控制单元的 24W非同步SEPIC 前置稳压器 PCB layout 设计.pdf》资料免费下载
    发表于 05-11 14:27 0次下载
    PMP30676.1-适用于汽车远程<b class='flag-5'>信息处理</b>控制单元的 24W非同步SEPIC 前置稳压器 PCB layout 设计

    光学图像加密技术的优势分析

    与利用计算机等数字设备进行串行顺序传输和处理数据相比,光学图像加密技术凭借光学信息处理技术自身的并行处理信息特性可以实现
    的头像 发表于 03-27 10:46 1010次阅读

    古瑞瓦特-逆变器常见故障及处理方式

    古瑞瓦特-逆变器常见故障及处理方式 逆变器作为整个电站的重要组成设备,上对直流组件,下对并网设备,基本所有的电站参数都可以通过逆变器检测出来。如果出现异常,则可以通过逆变器反馈的信息检查电站配套设备
    的头像 发表于 03-20 15:23 4321次阅读
    古瑞瓦特-逆变器常见故障及<b class='flag-5'>处理方式</b>

    滤波器在信息处理中的关键作用和应用!

    在当今数字化时代,信息处理已经成为了各行各业的核心任务。无论是音频、视频、图像还是传感器信号,这些信号往往包含着各种干扰和噪声。 为了提取有效信息并去除干扰和噪声,滤波器成为了一项不可或缺
    的头像 发表于 03-18 10:40 775次阅读
    滤波器在<b class='flag-5'>信息处理</b>中的关键作用和应用!