0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

神经网络之父

工程师 来源:未知 作者:姚远香 2018-11-24 09:32 次阅读

人工智能领域有三大奠基人,分别是Geoffrey Hinton、Yann LeCun与Yoshua Bengio。今天主要围绕“神经网络之父”Geoffrey Hinton。

Geoffrey Hinton,被称为“神经网络之父”、“深度学习鼻祖”,他曾获得爱丁堡大学人工智能的博士学位,并且为多伦多大学的特聘教授。在2012年,Hinton还获得了加拿大基廉奖(Killam Prizes,有“加拿大诺贝尔奖”之称的国家最高科学奖)。2013年,Hinton 加入谷歌并带领一个AI团队,他将神经网络带入到研究与应用的热潮,将“深度学习”从边缘课题变成了谷歌等互联网巨头仰赖的核心技术,并将HintonBack Propagation(反向传播)算法应用到神经网络与深度学习。

Geoffrey Hinton出生于战后英国的温布尔登,他的父亲叫Howard Everest Hinton,是个英国昆虫学家,喜欢研究甲壳虫。他的母亲Margaret是一位教师。而他们一家也都流淌着饱含聪明才智的DNA:他的叔叔是着名的经济学家Colin Clark,正是他发明了“国民生产总值”这个经济学术语;他的曾曾祖父是着名的逻辑学家George Boole,他发明的布尔代数(Boolean algebra)奠定了现代计算机科学的基础。

早在1960年代,Geoffrey Hinton的高中时期,就有一个朋友告诉他,人脑的工作原理就像全息图一样。创建一个3D全息图,需要大量的记录入射光被物体多次反射的结果,然后将这些信息存储进一个庞大的数据库中。大脑储存信息的方式居然与全息图如此类似,大脑并非将记忆储存在一个特定的地方,而是在整个神经网络里传播。Hinton为此深深的着迷。对Hinton来说,这是他人生的关键,也是他成功的起点。

当时的学术界普遍认为计算机在规则和逻辑方面做得最好,而神经网络的概念根本就是错误的。但Hinton却没有丝毫动摇,并于1972年在爱丁堡大学攻读博士学位时毅然选择了神经网络研究。每周,他的导师都会对他说:“你这是在浪费时间。”但Hinton的研究还是慢慢取得了一些成功。

博士毕业后,Hinton被里根政府的外交政策所困扰,因此带着妻子搬到了多伦多,并接受了加拿大高级研究所的工作邀约。很快,Hinton组建起了一支专攻深度学习的人才团队,其中就包括OpenAI的联合创始人兼董事Ilya Sutskever。回忆起2000年的“人工智能寒冬”, Sutskever说道:“当时我们只有十个人左右,资金非常匮乏。

九年时间飞逝,当计算机终于有能力挖掘海量数据时,超级神经网络开始在语音和图像识别方面超越基于逻辑的人工智能。很快,业内的大型科技公司,如微软、Facebook、谷歌等纷纷开始投资。2012年,谷歌公司的绝密实验室GoogleX(现在名为X)宣布建立一个由16000个电脑处理器组成的神经网络,并将其用在YouTube上。

随后,该实验室从YouTube上提取了数百万个随机的、没有标签视频,输入到这台新的超级计算机中,并通过编程使其能够理解所看到的内容。最终,神经网格从无数个关于猫的视频中成功分辨出了猫,这也成为了人工智能领域发展过程中的一个激动人心的时刻。

之后,Hinton和他的助手们就成为了人工智能浪潮中的领导者。 2013年,Google X的高级研究员Jeff Dean将Hinton招进了谷歌。有趣的是,原本就不属于体制内学者的Hinton,突然之间成为了体制的建立者。尽管观点曾经被业界抛弃,但如今他却成为人工智能行业里最炙手可热的人物。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 神经网络
    +关注

    关注

    42

    文章

    4771

    浏览量

    100763
  • 人工智能
    +关注

    关注

    1791

    文章

    47274

    浏览量

    238468
收藏 人收藏

    评论

    相关推荐

    卷积神经网络与传统神经网络的比较

    在深度学习领域,神经网络模型被广泛应用于各种任务,如图像识别、自然语言处理和游戏智能等。其中,卷积神经网络(CNNs)和传统神经网络是两种常见的模型。 1. 结构差异 1.1 传统神经网络
    的头像 发表于 11-15 14:53 421次阅读

    BP神经网络和卷积神经网络的关系

    BP神经网络(Backpropagation Neural Network)和卷积神经网络(Convolutional Neural Network,简称CNN)是两种在人工智能和机器学习领域
    的头像 发表于 07-10 15:24 1508次阅读

    BP神经网络和人工神经网络的区别

    BP神经网络和人工神经网络(Artificial Neural Networks,简称ANNs)之间的关系与区别,是神经网络领域中一个基础且重要的话题。本文将从定义、结构、算法、应用及未来发展等多个方面,详细阐述BP
    的头像 发表于 07-10 15:20 1068次阅读

    rnn是递归神经网络还是循环神经网络

    RNN(Recurrent Neural Network)是循环神经网络,而非递归神经网络。循环神经网络是一种具有时间序列特性的神经网络,能够处理序列数据,具有记忆功能。以下是关于循环
    的头像 发表于 07-05 09:52 577次阅读

    递归神经网络与循环神经网络一样吗

    递归神经网络(Recursive Neural Network,RvNN)和循环神经网络(Recurrent Neural Network,RNN)是两种不同类型的神经网络结构,它们在处理序列数据
    的头像 发表于 07-05 09:28 861次阅读

    递归神经网络是循环神经网络

    递归神经网络(Recurrent Neural Network,简称RNN)和循环神经网络(Recurrent Neural Network,简称RNN)实际上是同一个概念,只是不同的翻译方式
    的头像 发表于 07-04 14:54 759次阅读

    循环神经网络和卷积神经网络的区别

    循环神经网络(Recurrent Neural Network,RNN)和卷积神经网络(Convolutional Neural Network,CNN)是深度学习领域中两种非常重要的神经网络
    的头像 发表于 07-04 14:24 1294次阅读

    深度神经网络与基本神经网络的区别

    在探讨深度神经网络(Deep Neural Networks, DNNs)与基本神经网络(通常指传统神经网络或前向神经网络)的区别时,我们需要从多个维度进行深入分析。这些维度包括
    的头像 发表于 07-04 13:20 874次阅读

    卷积神经网络与循环神经网络的区别

    在深度学习领域,卷积神经网络(Convolutional Neural Networks, CNN)和循环神经网络(Recurrent Neural Networks, RNN)是两种极其重要
    的头像 发表于 07-03 16:12 3284次阅读

    反向传播神经网络和bp神经网络的区别

    反向传播神经网络(Backpropagation Neural Network,简称BP神经网络)是一种多层前馈神经网络,它通过反向传播算法来调整网络中的权重和偏置,以达到最小化误差的
    的头像 发表于 07-03 11:00 804次阅读

    bp神经网络是深度神经网络

    BP神经网络(Backpropagation Neural Network)是一种常见的前馈神经网络,它使用反向传播算法来训练网络。虽然BP神经网络在某些方面与深度
    的头像 发表于 07-03 10:14 844次阅读

    bp神经网络和卷积神经网络区别是什么

    BP神经网络(Backpropagation Neural Network)和卷积神经网络(Convolutional Neural Network,简称CNN)是两种不同类型的人工神经网络,它们在
    的头像 发表于 07-03 10:12 1183次阅读

    卷积神经网络的原理是什么

    卷积神经网络(Convolutional Neural Network,简称CNN)是一种深度学习模型,广泛应用于图像识别、语音识别、自然语言处理等领域。本文将详细介绍卷积神经网络的原理,包括其
    的头像 发表于 07-02 14:44 650次阅读

    卷积神经网络和bp神经网络的区别

    卷积神经网络(Convolutional Neural Networks,简称CNN)和BP神经网络(Backpropagation Neural Networks,简称BPNN)是两种
    的头像 发表于 07-02 14:24 3947次阅读

    神经网络架构有哪些

    神经网络架构是机器学习领域中的核心组成部分,它们模仿了生物神经网络的运作方式,通过复杂的网络结构实现信息的处理、存储和传递。随着深度学习技术的不断发展,各种神经网络架构被提出并广泛应用
    的头像 发表于 07-01 14:16 711次阅读