0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

认识类脑计算与工程——海量数据、计算资源与类脑逻辑 (一)

SynSense时识科技 来源:SynSense时识科技 2023-03-02 11:31 次阅读

近十年来,对类脑计算的足够重视,使得一系列与类脑技术相关的研究组织应运而生。2020年末,IOP英国物理学会出版社推出全新期刊《类脑计算与工程》(NCE),SynSense时识科技联合创始人、首席科学家、苏黎世神经信息研究所所长Giacomo Indiveri教授担任主编,斯坦福大学Brains in Silicon创始人Kwabena Boahen、清华大学吴华强教授、约翰斯霍普金斯大学计算感知运动系统实验室创始人Ralph Etienne-Cummings、浙江大学唐华锦教授等组成国际编委会。

NCE创刊后,Giacomo Indiveri教授撰写社论“Introducing neuromorphic computing and engineering”。


文章认为,在摩尔定律终结背景下,类脑技术所面临的机遇尤其值得探究。文章还解释了在“neuromorphic”从提出至今三十余年间,信息通信技术的“大爆炸”又如何让其所指代的意义、所涉及的技术社区、与之紧密相连的研发领域发生了变化。

本文将分为两部分,第一部分将展示类脑技术在科技整体背景中的位置,第二部分将介绍类脑领域新材料、新技术及跨学科发展所带来的机遇。

da8fa2fe-b22f-11ed-bfe3-dac502259ad0.png

“我们正处于一个激动人心的时代,在这个时代,摩尔定律的终结、对神经网络的新的关注以及对低功耗、可持续‘绿色AI’的需求等汇聚,都指向了类脑计算和工程领域蕴藏着巨大潜力。”

Introducing'Neuromorphic

Computing and Engineering'

Giacomo Indiveri

当前,计算的标准性正受到一系列问题的挑战,这些问题开始阻碍技术进步。为了解决其中部分问题,开发新颖的、受生物大脑启发的处理方法和技术被提出,并被用于各种应用场景。这一研究极具挑战性,需要多个学科的研究人员共同努力,同时协同设计处理方法,支持计算架构及其底层技术。

1.类脑计算与工程

作为总编,我很高兴宣布在《类脑计算与工程》(NCE)上发表第一篇内容。本篇社论旨在通过指出当前信息和通信技术所面临的挑战,来表明NCE在解决这些挑战中所扮演的角色,以及创办这样一本期刊的必要。


虽然几十年来摩尔定律一直推动着技术进步,但直到最近几年,我们才开始收获这一进步的多项成果:信息和通信技术(ICT)正在变得无孔不入,并在全球范围内影响我们日常生活的方方面面:从全球通信到教育和健康,从金融到自动化、交通和气候变化等等。随着社会的数字化,人们能够获取更多的个性化信息,而计算技术和电子设备每年都在产生越来越多的电子数据。


为了应对这场技术革命所带来的需求,并且利用数据可用性所创造的机会,新的数据科学、机器学习人工智能算法已经出现。AI算法通常使用神经网络和深度学习技术来解决模式识别任务,并已被证明从大量数据中提取信息非常成功。其训练方法需要大量的数据和计算资源,这反过来对能源提出需求。

然而,无论是从全球电力供应还是计算的碳足迹来看,这种能源都不可持续。例如,据估计,训练AI神经网络,如GPT-3,需要在单台计算机上花费超过27年的处理时间,并且这些计算总共会产生超过35000公斤的二氧化碳排放量。

daed3e96-b22f-11ed-bfe3-dac502259ad0.png

Figure 1. (a)CMOS芯片上的晶体管数量变化(b)苏黎世大学、苏黎世联邦理工类脑芯片

这些高昂的成本源于当前的计算技术基于经典的冯·诺依曼结构,其非神经网络并行处理这一特性的绝佳匹配。另一方面,生物大脑在功耗要求、训练数据的样本数量以及适应新的和意外情况方面优于人工智能系统。这尤其适用于那些对计算机和人工智能算法来说仍非常困难,但对人类和动物来说轻松完成的任务,如少量样本的在线学习、与环境互动、感知和运动控制。

一种极具潜力的方法是通过“类脑计算和工程”领域的研究开发新的计算范式和ICT系统,这类系统能够智能地与环境交互,弥合自然智能和人工智能之间的差距,解决未来计算面临的许多开放性挑战。我们现在正处于一个非常激动人心的时代,在这个时代,摩尔定律的终结、对神经网络的重新关注以及对低功耗和可持续的“绿色AI”需求等汇聚,都指向了类脑计算和工程领域蕴藏着的巨大潜力。

2. 类脑计算与工程

主题领域

“类脑”这个词最初是由卡弗·米德在20世纪80年代末在加州理工学院创造的,用来描述包含电子电路的超大规模集成电路VLSI),这些电路模仿了神经系统中存在的神经生物学结构。

然而,随着时间的推移,这个词的原始含义已经发生了“变形”,开始用来描述更广泛的概念和方法。除了原始的“类脑工程”之外,这个词也开始用来描述“类脑计算”系统,这些系统包含纯数字电路或传统处理器,用于模拟脉冲神经网络和神经计算模型。

与此同时,同样的术语也开始用来指代由新兴存储技术领域开发的纳米级“记忆电阻器”设备组成的系统。今天,这个术语也被用来指代算法和机器学习方法,模拟具备生物可解释性和硬件友好的脉冲神经网络及学习机制。

2.1 集成在CMOS技术中的神经电路和系统

最初的类脑工程主要目标是通过使用在弱反或亚阈值模式下操作的晶体管,直接模拟生物神经网络的计算物理特性。这种方法旨在以动物大脑中神经系统所使用的相同组织原则来构建人工神经元、突触、网络和感知系统。其具有双重目标:既通过构建真实神经电路的物理仿真来理解神经计算,又开发与当代标准数字计算机所不同的小型低功耗感知处理和计算体系结构。鉴于这种方法的高风险和基础研究方面,今天仍在追求这一方法的学术团体数量很少。这一社区主要专注于开发小规模原型芯片,探索神经计算的不同方面,从感知系统到具有生物可解释性的神经动力学可重构网络,到基于脉冲的学习和可塑性电路。

db50ac2e-b22f-11ed-bfe3-dac502259ad0.gif

近年来,“类脑”这个词也被用来描述混合信号和纯数字的VLSI系统,以实现可以用于模拟脉冲神经网络模型的计算平台。这一方向主要受到了计算和集成电路技术进步的可能性驱动,旨在构建大规模的专用类脑计算系统。例如,欧盟人脑计划支持开发了晶圆级集成系统,旨在准确再现包含大量神经元的神经科学建模研究模拟。

与此相似,人脑计划支持开发的SpiNNaker系统,是一个多核计算机,旨在实时模拟大量的脉冲神经元。在其目前的发展状态下,SpiNNaker堆叠600个印刷电路板(每个搭载48个SpiNNaker处理器)而构建,支持数亿神经元的模拟。IBM提出了另一种扩大模拟脉冲神经网络规模的策略,即在2014年推出了“TrueNorth”神经形态系统,该系统在同一芯片上集成了4096个核,每个核包括纯数字的异步电路,能够模拟256个神经元和256×256的突触连接。


这是该领域的一项重大突破,因为它展示了先进的技术节点,如三星28纳米块状CMOS工艺,可以支持集成大量硅神经元,同时保持极低的总体功耗(例如,实时运行典型循环网络时平均功耗为70毫瓦,比运行相同网络的传统计算机低了四个数量级)。

2.2忆阻器及新兴存储技术

3. 开放性挑战

4.结论与展望

关于SynSense时识科技 SynSense时识科技(原名aiCTX)创立于2017年,是全球领先的类脑智能与应用解决方案提供商。 SynSense时识科技专注类脑智能的研究与开发,以苏黎世大学和苏黎世联邦理工学院20+年全球领先的研发经验和技术积累为基石,聚焦边缘计算应用场景,提供横跨感知与计算的类脑智能应用与解决方案。 SynSense时识科技率先实现了类脑芯片商业化应用零的突破,为人工智能向认知智能发展,万物互联向万物智联发展迈出了关键一步。SynSense将和伙伴一起,共同构建“端到芯”“物与物”“物与人”万物智联的认知生态,引领全球类脑智能应用与发展,为人类未来美好生活创造福祉。

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 摩尔定律
    +关注

    关注

    4

    文章

    630

    浏览量

    78909
  • 数字化
    +关注

    关注

    8

    文章

    8559

    浏览量

    61592
  • 机器学习
    +关注

    关注

    66

    文章

    8363

    浏览量

    132337

原文标题:NCE社论:认识类脑计算与工程——海量数据、计算资源与类脑逻辑 (一)

文章出处:【微信号:SynSense时识科技,微信公众号:SynSense时识科技】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    计算机:实现对大脑记忆信息的存取,构造种全新的AI系统

    神经元、近千亿神经突触,与小鼠大脑神经元数量规模相当,典型运行功耗只需要350-500瓦,同时它也是目前国际上神经元规模最大的计算机。
    的头像 发表于 09-17 11:39 2318次阅读

    清华大学研发计算

    软硬件去耦合的计算系统层次结构。目前,清华大学正在开发新型计算机。 1、本篇题为《
    发表于 10-16 08:45 4979次阅读

    芯片的商用梦

    芯片被诸多低功耗边缘应用看好,而传统的密集型云端计算的重任仍然担在传统的AI芯片的肩上。
    的头像 发表于 02-08 10:04 3291次阅读

    基于FPGA的计算平台 —PYNQ 集群的无监督图像识别计算系统

    硬件平台 第部分 设计概述 基金项目:国家自然科学基金“基于工作负载表征的体系结构基准测试模型与自动映射方法研究”(61972180);数学工程与先进
    发表于 06-25 18:35

    人工智能下的计算怎么样

    计算试图模拟生物神经网络的结构和信息加工过程。它在软件层面的尝试之是脉冲神经网络(SNN)。
    发表于 12-20 13:31 892次阅读

    自主知识产权芯片的计算机研制成功

    大脑神经元数量规模相当,典型运行功耗只需要350~500瓦,同时它也是目前国际上神经元规模最大的计算机。 与此同时,团队还研制了专门面向
    发表于 09-02 11:14 990次阅读

    新里程碑!全球神经元规模最大的计算机研发成功

    我国计算技术发展迎来新里程碑。昨日,全球神经元规模最大的计算机正式亮相。该
    的头像 发表于 09-03 09:37 2113次阅读

    中国首台基于自主知识产权芯片的计算机研制成功

    9月1日,浙江大学联合之江实验室共同研制出中国首台基于自主知识产权芯片的计算机。据介绍,该台
    的头像 发表于 09-06 10:33 3004次阅读
    中国首台基于自主知识产权<b class='flag-5'>类</b><b class='flag-5'>脑</b>芯片的<b class='flag-5'>类</b><b class='flag-5'>脑</b><b class='flag-5'>计算</b>机研制成功

    我国首台基于自主知识产权芯片的计算机研制成功

    近日,浙江大学联合之江实验室,共同研制成功了我国首台基于自主知识产权芯片的计算机。
    发表于 09-09 08:21 787次阅读

    清华大学计算机系首次提出“计算完备性”

    层次结构。 这是清华大学计算机系以第完成单位/通讯单位发表的首篇《自然》论文,也完成了清华大学年多以来在《自然》正刊的
    的头像 发表于 10-19 14:16 2117次阅读

    浙江大学实验室发布国内首台计算

    据《半月谈》消息,近日浙江大学联合之江实验室发布了国内首台计算机,该计算机包含1.2亿个脉冲神经元和近千亿个神经突触。此外,这台
    的头像 发表于 10-19 17:14 3308次阅读

    什么是计算_中国的计算发展

    如果单从字面上来看的话,便是“类似于大脑的计算方式”,事实上也的确如此。根据资料显示,早在上世纪80年代,美国的科学家就已经提出计算的概念了。
    的头像 发表于 10-20 13:46 7485次阅读

    对于新兴的计算系统领域,需要首先解决的问题是什么?

    记者了解到,现有计算系统研究大多聚焦于具体的芯片、工具链、应用和算法的创新实现,而忽略了从宏观和抽象层面上对计算完备性和体系结构的思考。
    的头像 发表于 10-20 15:45 1672次阅读

    什么是计算

    SynSense时识科技创始人兼CEO 乔宁博士、全球研发副总裁Dylan Muir博士以及高级算法工程师邢雁南博士受邀作为主讲嘉宾亮相此次创新开放日,并分别从发展历程、技术特点及智能应用等角度进行阐释,为现场技术专家与上万
    发表于 09-09 11:45 4671次阅读

    计算芯片与应用、趋势与展望

    计算(Brain-inspired Computing)又被称为神经形态计算(Neuromorphic Computing)。是借鉴生物神经系统信息处理模式和结构的
    的头像 发表于 12-12 13:53 2374次阅读