人工智能,作为引领科技革命和产业变革的核心力量,正推动生成式AI技术如ChatGPT、Sora等不断取得新的突破,大模型的应用范围也日渐拓宽。然而,随着智能算力的飞速提升,能耗问题逐渐凸显,成为制约算力产品效能的关键瓶颈。传统计算机在信号与数据转换、高精度计算方面的能耗和时间成本不断攀升,深度学习模型的训练成本亦居高不下。
人脑能够运行非常复杂且庞大的神经网络,总功耗却仅为20W,远小于现有的AI。类脑智能作为一种受脑科学和神经科学启发的创新科技,采用神经形态计算,模拟人脑运作机制,旨在实现信息的高效处理,同时降低能耗、提升算力。与传统人工智能相比,类脑智能展现了一种全新的计算范式,为科技发展和产业变革提供了全新视角和可能性。
人工智能的革新:时识科技与中科院自动化所联合研究成果突破
近日,SynSense时识科技与北京中科院自动化所李国齐、徐波课题组合作,提出了一套以超低功耗边缘端应用为导向,能够实现动态计算算法,软硬协同设计的类脑智能SoC系统Speck,整个系统在典型视觉场景中的实时功耗低至0.7mW。该成果以《Spike-based dynamic computing with asynchronous sensing-computing neuromorphic chip》为题,2024年5月25日成功刊登在国际顶级学术期刊《自然》(Nature)的子刊《自然-通讯》(Nature Communications)。
图1.收录图
研究充分证明了将人脑中复杂的高级神经机制融入到神经形态计算中所带来的无限可能。相关工作得到了国家杰出青年科学基金、国家自然科学基金委重点项目、区域创新联合重点项目的支持。这一重大研究成果不仅展现了类脑智能的巨大潜力和广阔前景,也为未来科技发展和产业变革注入了强大动力。
Speck:引领边缘计算场景的极致创新
本篇文章首次详细的介绍了时识科技感算一体SoC芯片Speck的设计细节(图2), 硬件资源和异步运算的核心技术。Speck是一款异步感算一体的类脑智能SoC,采用全异步设计,在芯片上集成了动态视觉传感器(DVS)和类脑智能芯片,具有极低的静态功耗(0.42mW)。在视觉感知侧,DVS相机以异步方式运行,仅在视觉场景中亮度发生变化时,产生稀疏的事件流,能够以微秒级的时间分辨率感知视觉信息。在芯片侧,异步神经形态芯片同样以全异步方式设计,抛弃了全局时钟控制信号,避免了时钟空翻带来的能耗开销,仅在有事件输入时才会触发稀疏加法运算。
Speck不仅实现了神经形态计算理论上具有低功耗和低时延优势,同时天然与神经形态动态计算契合。芯片的功耗主要分为静息功耗和动态功耗两部分。如图2b/c所示,传统AI芯片静态功耗高,在算法层面进行的能效优化对总功耗的降低作用不大。相比之下,Speck具有极低的静息功耗,算法层面的能效优化能切实带来总功耗的降低。
图2.Speck设计细节
Speck包含多个SNN核心,每个核心都能够独立处理事件流,执行异步事件驱动的卷积操作。这种模块化的设计使得芯片能够灵活地处理各种规模的事件驱动任务。由于芯片的异步事件驱动特性,Speck能够在接收到单个事件后立即更新系统状态,从而实现极低的输出延迟,为边缘计算场景提供了一个高能效、低延迟和低功耗的类脑智能解决方案。
以应用为导向,开启产业减排增效新篇章
脉冲神经网络(SNNs)与传统的人工神经网络(ANNs)最大的不同在于信息交换的方式。SNNs中的神经元通过脉冲序列(即0代表无信号,1代表有脉冲信号)来进行通信,而ANNs中的神经元则使用连续的数值来交换信息。这使得SNNs在运算时拥有一个动态的计算图,这意味着在任何时刻,只有一小部分神经元处于活跃状态,而其他神经元则处于闲置状态。相比之下,传统的计算模式,比如在GPU上运行的ANNs,则是基于静态计算图的。即便ANNs的所有输入或激活值都是零,网络也必须执行所有操作。通过将高层次的注意力机制整合到SNNs中,动态SNNs能够在显著降低能耗的同时,提升任务性能。这项技术创新点主要适用于希望提升计算效率和节能的智能设备和应用。
图3. 类脑计算和传统计算对比(从动态计算的角度)
文章中验证了动态平衡注意力机制和异步类脑芯片的结合可以在手势识别、明/暗光照下的步态识别等任务上取得准确率上、功耗和延时上巨大的提升。通过在类脑芯片Speck上部署SNN,实验展示了一个实时功耗低至0.70mW的高精度类脑智能系统,整个系统处理单个脉冲的超低延迟仅为 3.36 µs。
SynSense时识科技为Speck芯片提供了完整的软件工具链,只需要使用编程框架Sinabs上完成SNN算法设计与训练,即可在Speck上进行部署。如图4所示,在屏蔽不重要时间窗口内事件流后,输入为0时,Speck不会触发任何计算。为验证神经形态动态计算的有效性,该研究在三个公开数据集进行了测试。在DVS128 Gesture上,融合了注意力动态计算的Speck在任务精度提升9%的同时,平均功耗由9.5mW降低至3.8mW。
图4. 融合了注意力动态计算的Speck
这项研究揭示了Speck类脑计算感知平台和人脑的高级抽象功能间的工程映射关系,通过这种机制能够实现类脑智能在能耗、性能、延迟上的优越表现。充分证明了类脑智能在实际应用场景中,从高能效、低延迟和高性能等维度,其异步事件驱动、稀疏性和动态性等方面的巨大潜力。
类脑智能,人工智能发展新引擎
AI技术的飞速发展让大型模型在复杂任务处理上展现出巨大潜力,但也对计算资源和数据传输速度的要求也日益增加。类脑智能技术为这一挑战提供了有效的解决方案,能够显著减少系统延迟及对中心化云服务的依赖,同时提升能源效率,降低运营成本。
科研成果高效转化是推动基础研究不断前进的源动力,如今类脑智能作为创新“密码”正在为发展新质生产力注入澎湃动能。面对当前算力瓶颈和能耗问题,为人工智能的发展提供了新的方法和视角。随着技术的持续进步,类脑智能将为AI的未来打开更广阔的应用空间,推动智能科技向更深层次、更广泛领域的发展。可以期待在不久的将来,类脑智能以科技撬动万亿规模的产业“新蓝海”。
-
人工智能
+关注
关注
1791文章
47244浏览量
238365 -
深度学习
+关注
关注
73文章
5503浏览量
121140 -
大模型
+关注
关注
2文章
2439浏览量
2674
原文标题:SynSense时识科技与中科院自动化所联合研究成果荣登国际权威期刊Nature子刊,引领类脑智能技术新纪元
文章出处:【微信号:SynSense时识科技,微信公众号:SynSense时识科技】欢迎添加关注!文章转载请注明出处。
发布评论请先 登录
相关推荐
评论