0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

神经元的深度学习 神经科学与人工智能结合有望

DPVg_AI_era 2017-12-07 17:10 次阅读

多伦多大学和DeepMind研究人员合作,通过实验表明某些哺乳动物的神经元也能进行深度学习。如果神经元与深度学习之间的关联得以确认,我们就能开发更好的脑机接口,从疾病治疗到增强智能,随之而来的应用也将开启各种可能。

神经网络受生物神经网络启发而来,但大脑里的学习过程真如深度学习那样吗?这个问题的答案有望实现更强大的深度学习模型,也有助于进一步了解人类的智能。

12月5日,CIFAR研究员、多伦多大学的Blake A. Richards和同事在期刊eLife发表了论文《尝试用分离的树突进行深度学习》(Towards deep learning with segregated dendrites)。他们在论文中提出了一种算法,对大脑中可以如何进行深度学习进行了模拟。他们构建的网络表明,某些哺乳动物神经元具有适合进行深度学习的形状和电学特性。不仅如此,他们的实验也用一种更接近生物学的方法,展示了真实的大脑如何进行深度学习,甚至有望帮助解释大脑如何演化出了“学习”的能力。

如果神经元与深度学习之间的关联得以确认,我们就能开发更好的脑机接口,从疾病治疗到增强智能,随之而来的应用也将开启各种可能。

哺乳动物大脑的神经元也能做深度学习

这项研究由Richards和他在多伦多大学的研究生Jordan Guerguiev一起,与DeepMind的Timothy Lillicrap合作完成。

实验中使用的神经元是小鼠大脑新皮质的树突细胞。新皮质脑区负责一些高等功能,比如知觉、运动指令的产生,与空间推理、意识及人类语言也有关系。而树突则是从神经元细胞本体发出的多分支突起,形状类似树木。树突是神经元的输入通道,将从其他神经元接收到的动作电位(电信号)传送至细胞本体。

研究构建的“多房室神经网络”模型示意:左边是小鼠初级视觉皮层锥体神经元;右边是简化的神经元模型。

利用这种神经元结构的知识,Richards和Guerguiev建立了一个模型,叫做“多房室神经网络”(multi-compartment neural network model)。在这个网络中,神经元都在隔开的“隔间”中接收信号。由于一段一段隔开,不同层的模拟神经元能够协作,实现深度学习。

结果发现,在识别手写数字时,多层网络的效果明显好于单层的网络。算法能够利用多层网络结构识别高阶表示正是深度学习的核心标志。这表明小鼠大脑神经元跟人工神经元一样都能进行深度学习。

“这只是一组模拟,所以不能准确反映大脑正在做什么。但是,如果大脑可以使用AI使用的算法,这已经足以证明我们可以开展更进一步的实验调查了。”Richards说。

用更好的训练方法,证明深度学习体现人类大脑工作机制

在21世纪初,Richards和Lillicrap在多伦多大学上了Hinton的课,深信深度学习模型在一定程度上准确反映了人类大脑工作的机制。但是,在当时要验证这个想法还有几个挑战。首先,人们还不确定深度学习是否能达到人类水平。其次,深度学习算法违反了神经科学家已经证明的生物学事实。

计算机网络在深度学习中发生的活动模式也类似于人类大脑中所见的模式。但是,深度学习的一些特征似乎与大脑的工作方式不相容。而且,人工网络中的神经元比生物神经元简单得多。

现在,Richards和一些研究人员正在积极寻求弥合神经科学和人工智能之间差距的方法。本文以Yoshua Bengio团队的研究为基础,以生物学上更加可行的方式训练神经网络。

均衡传播示意图:使用均衡传播训练神经网络时信息的传递过程。右边的简单网络,一层一层传递,BP适用,当然均衡传播也适用;而左边的复杂网络,更加类似生物神经网络结构,BP在这里就不适用了,这也是通常认为深度学习不能体现人脑机制的原因之一,但是,均衡传播能够适用于多连接的这种情况。

Bengio和他的研究生Benjamin Scellier发明了一种新的神经网络训练方法,叫做“均衡传播”(equilibrium propagation),是常用的反向传播(BP)的一种替代方法。均衡传播可以使用单一的回路和单一类型的计算来进行误差的推理和反向传播。因此,均衡传播过程可能更加类似大脑生物神经回路中的学习过程。

这项研究还使用了DeepMind的TimothyLillicrap开发的算法,进一步放宽了神经网络的一些训练规则。(顺便一说,TimothyLillicrap也是DeepMind最强通用棋类AI AlphaZero论文的作者之一。)

这篇论文还吸收了Matthew Larkam对新皮质神经元结构的研究。通过将神经科学的发现与现有的算法相结合,Richards的团队创建了一个更好的、更真实的算法来模拟大脑中的学习过程。

未来10年真正打通神经科学与人工智能

树状新皮质神经元只是大脑中许多细胞类型之一。Richards说,未来的研究应该模拟不同类型的大脑细胞,并研究它们如何相互作用来实现深度学习。从长远看,他希望研究人员能够克服重大挑战,比如在不接收反馈的情况下如何通过经验进行学习。

Richards说:“我们在接下来的十年左右可能会看到神经科学与人工智能之间真正的研究良性循环,神经科学的发现帮助我们开发新的人工智能,而人工智能帮助我们解释和理解神经科学方面的实验数据。”

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 神经网络
    +关注

    关注

    42

    文章

    4771

    浏览量

    100745
  • 深度学习
    +关注

    关注

    73

    文章

    5503

    浏览量

    121142

原文标题:哺乳动物大脑神经元也能做深度学习,未来10年神经科学与人工智能将迎突破

文章出处:【微信号:AI_era,微信公众号:新智元】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    神经元是什么?神经元神经系统中的作用

    神经元,又称神经细胞,是神经系统的基本结构和功能单位。它们负责接收、整合、传导和传递信息,从而参与和调控神经系统的各种活动。神经元在形态上高
    的头像 发表于 07-12 11:49 1232次阅读
    <b class='flag-5'>神经元</b>是什么?<b class='flag-5'>神经元</b>在<b class='flag-5'>神经</b>系统中的作用

    人工神经元模型的基本构成要素

    人工神经元模型是人工智能领域中的一个重要概念,它模仿了生物神经元的工作方式,为机器学习深度
    的头像 发表于 07-11 11:28 1265次阅读

    人工神经元模型的基本原理是什么

    人工神经元模型是人工智能领域中的一个重要概念,它模仿了生物神经系统中的神经元行为,为机器学习
    的头像 发表于 07-11 11:26 744次阅读

    人工神经元模型由哪两部分组成

    人工神经元模型是深度学习、机器学习人工智能领域的基础,它模仿了生物
    的头像 发表于 07-11 11:24 883次阅读

    生物神经元模型包含哪些元素

    生物神经元模型是神经科学人工智能领域中的一个重要研究方向,它旨在模拟生物神经元的工作原理,以实现对生物神经系统的理解和模拟。
    的头像 发表于 07-11 11:21 1014次阅读

    人工智能神经元的基本结构

    人工智能神经元的基本结构是一个复杂而深入的话题,涉及到计算机科学、数学、神经科学等多个领域的知识。 引言 人工智能(Artificial I
    的头像 发表于 07-11 11:19 1351次阅读

    人工神经元由哪些部分组成

    人工神经元深度学习神经网络和机器学习领域的核心组件之一。 1. 引言 在深入讨论
    的头像 发表于 07-11 11:17 628次阅读

    人工神经元模型的基本原理及应用

    人工神经元模型是人工智能和机器学习领域的一个重要概念,它模仿了生物神经元的工作方式,为计算机提供了处理信息的能力。 一、
    的头像 发表于 07-11 11:15 863次阅读

    人工神经元模型的三要素是什么

    人工神经元模型是人工智能和机器学习领域中非常重要的概念之一。它模仿了生物神经元的工作方式,通过数学和算法来实现对数据的处理和
    的头像 发表于 07-11 11:13 913次阅读

    人工智能神经网络的结构是什么

    多年的发展,已经成为人工智能领域的重要分支之一。 神经网络的基本概念 2.1 神经元 神经元神经网络的基本单元,它具有接收输入信号、处理信
    的头像 发表于 07-04 09:37 571次阅读

    人工智能神经网络芯片的介绍

    人工智能神经网络芯片是一类专门为深度学习神经网络算法设计的处理器。它们具有高性能、低功耗、可扩展等特点,广泛应用于图像识别、语音识别、自然
    的头像 发表于 07-04 09:33 758次阅读

    神经元的分类包括哪些

    神经元神经系统的基本功能单位,它们通过电信号和化学信号进行信息传递和处理。神经元的分类非常复杂,可以根据不同的标准进行分类。 一、神经元的基本概念 1.1
    的头像 发表于 07-03 11:36 1238次阅读

    神经元的结构及功能是什么

    神经元神经系统的基本结构和功能单位,它们通过电信号和化学信号进行信息传递和处理。神经元的结构和功能非常复杂,涉及到许多不同的方面。 一、神经元的形态结构
    的头像 发表于 07-03 11:33 1247次阅读

    神经网络和人工智能的关系是什么

    神经网络和人工智能的关系是密不可分的。神经网络是人工智能的一种重要实现方式,而人工智能则是神经
    的头像 发表于 07-03 10:25 1104次阅读

    神经元神经网络的区别与联系

    人工智能和机器学习的领域中,神经元神经网络是两个至关重要的概念。虽然它们都与人脑中的神经系统
    的头像 发表于 07-01 11:50 934次阅读