0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英特尔发布新一代神经拟态系统Hala Point,11.5亿神经元,12倍性能提升

looger123 来源:looger123 作者:looger123 2024-04-19 09:43 次阅读

作为英特尔首个神经元数量达到11.5亿的神经拟态系统,Hala Point为更高效、规模更大的AI开辟了道路。


英特尔发布了代号为Hala Point的大型神经拟态系统。Hala Point基于英特尔Loihi 2神经拟态处理器打造而成,旨在支持类脑AI领域的前沿研究,解决AI目前在效率和可持续性等方面的挑战。在英特尔第一代大规模研究系统Pohoiki Springs的基础上,Hala Point改进了架构,将神经元容量提高了10倍以上,性能提高了12倍。

英特尔研究院神经拟态计算实验室总监Mike Davies 表示:“目前,AI模型的算力成本正在持续上升。行业需要能够规模化的全新计算方法。为此,英特尔开发了Hala Point,将高效率的深度学习和新颖的类脑持续学习、优化能力结合起来。我们希望使用Hala Point的研究能够在大规模AI技术的效率和适应性上取得突破。”

Hala Point在主流AI工作负载上展现了出色的计算效率。研究显示,在运行传统深度神经网络时,该系统能够每秒完成多达2万万亿次(20 petaops)运算,8位运算能效比达到了15 TOPS/W,相当于甚至超过了基于GPUCPU的架构。Hala Point有望推动多领域AI应用的实时持续学习,如科学研究、工程、物流、智能城市基础设施管理、大语言模型(LLMs)和AI助手(AI agents)。

目前,Hala Point是一个旨在改进未来商用系统的研究原型。英特尔预计其研究将带来实际技术突破,如让大语言模型拥有从新数据中持续学习的能力,从而有望在AI广泛部署的过程中,大幅降低训练能耗,提高可持续性。

image.png

深度学习模型的规模正在不断扩大,参数量可达万亿级。这一趋势意味着AI技术在可持续性上面临着严峻的挑战,有必要探索硬件架构底层的创新。神经拟态计算是一种借鉴神经科学研究的全新计算方法,通过存算一体和高细粒度的并行计算,大幅减少了数据传输。在本月举行的声学、语音与信号处理国际会议(ICASSP)上,英特尔发表的研究表明,Loihi 2在新兴的小规模边缘工作负载上实现了效率、速度和适应性数量级的提升[1]。

Hala Point在其前身Pohoiki Springs的基础上实现了大幅提升,基于神经拟态计算技术提升了主流、常规深度学习模型的性能和效率,尤其是那些用于处理视频、语音和无线通信等实时工作负载的模型。例如,在今年的世界移动通信大会(MWC)上,爱立信研究院(Ericsson Research)就展示了其如何将 Loihi 2神经拟态处理器应用于电信基础设施效率的优化。

Hala Point基于神经拟态处理器Loihi 2打造,Loihi 2应用了众多类脑计算原理,如异步(asynchronous)、基于事件的脉冲神经网络(SNNs)、存算一体,以及不断变化的稀疏连接,以实现能效比和性能的数量级提升。神经元之间能够直接通信,而非通过内存通信,因此能降低整体功耗。

Hala Point系统由封装在一个六机架的数据中心机箱中的1152个Loihi 2处理器(采用Intel 4制程节点)组成,大小相当于一个微波炉。该系统支持分布在 140544 个神经形态处理内核上的多达 11.5 亿个神经元和 1280 亿个突触,最大功耗仅为 2600 瓦。Hala Point还包括 2300 多个嵌入式 x86 处理器,用于辅助计算。

在大规模的并行结构中,Hala Point集成了处理器、内存和通信通道,内存带宽达每秒16PB,内核间的通信带宽达每秒3.5 PB,芯片间的通信带宽达每秒5TB。该系统每秒可处理超过380万亿次8位突触运算和超过240万亿次神经元运算。

在用于仿生脉冲神经网络模型时,Hala Point能够以比人脑快20倍的实时速度运行其全部11.5亿个神经元,在运行神经元数量较低的情况下,速度可比人脑快200倍。虽然Hala Point并非用于神经科学建模,但其神经元容量大致相当于猫头鹰的大脑或卷尾猴的大脑皮层。

在执行AI推理负载和处理优化问题时, Loihi 2神经拟态芯片系统的速度比常规CPU和GPU架构快50倍,同时能耗降低了100倍[1]。早期研究结果表明,通过利用稀疏性高达10比1的稀疏连接(sparse connectivity)和事件驱动的活动,Hala Point运行深度神经网络的能效比高达15 TOPS/W[2],同时无需对输入数据进行批处理。批处理是一种常用于GPU的优化方法,会大幅增加实时数据(如来自摄像头的视频)处理的延迟。尽管仍处于研究阶段,但未来的神经拟态大语言模型将不再需要定期在不断增长的数据集上再训练,从而节约数千兆瓦时的能源。

世界各地领先的学术团体、研究机构和公司共同组成了英特尔神经拟态研究社区(INRC),成员总数超过200个。携手英特尔神经拟态研究社区,英特尔正致力于开拓类脑AI前沿技术,以将其从技术原型转化为业界领先的产品

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英特尔
    +关注

    关注

    61

    文章

    10043

    浏览量

    172572
  • AI
    AI
    +关注

    关注

    87

    文章

    32002

    浏览量

    270823
  • 深度学习
    +关注

    关注

    73

    文章

    5522

    浏览量

    121693
收藏 人收藏

    相关推荐

    神经元是什么?神经元神经系统中的作用

    神经元,又称神经细胞,是神经系统的基本结构和功能单位。它们负责接收、整合、传导和传递信息,从而参与和调控神经系统的各种活动。神经元在形态上高
    的头像 发表于 07-12 11:49 1764次阅读
    <b class='flag-5'>神经元</b>是什么?<b class='flag-5'>神经元</b>在<b class='flag-5'>神经系统</b>中的作用

    人工神经元模型的基本构成要素

    人工神经元模型是人工智能领域中的个重要概念,它模仿了生物神经元的工作方式,为机器学习和深度学习提供了基础。本文将介绍人工神经元模型的基本构成要素。
    的头像 发表于 07-11 11:28 1526次阅读

    人工神经元模型的基本原理是什么

    人工神经元模型是人工智能领域中的个重要概念,它模仿了生物神经系统中的神经元行为,为机器学习和深度学习提供了基础。 、人工
    的头像 发表于 07-11 11:26 1004次阅读

    生物神经元模型包含哪些元素

    生物神经元模型是神经科学和人工智能领域中的个重要研究方向,它旨在模拟生物神经元的工作原理,以实现对生物神经系统的理解和模拟。
    的头像 发表于 07-11 11:21 1227次阅读

    人工智能神经元的基本结构

    ,旨在创建能够执行通常需要人类智能的任务的计算机系统神经元是构成人脑的基本单元,也是人工智能研究的基础。本文将详细介绍人工智能神经元的基本结构。 神经元的定义
    的头像 发表于 07-11 11:19 1607次阅读

    人工神经元模型的基本原理及应用

    人工神经元模型是人工智能和机器学习领域的个重要概念,它模仿了生物神经元的工作方式,为计算机提供了处理信息的能力。 、人工神经元模型的基本
    的头像 发表于 07-11 11:15 1182次阅读

    人工神经元模型的三要素是什么

    神经元是构成神经系统的基本单元,它们通过突触与其他神经元相互连接,实现信息的传递和处理。人工神经元则是模仿生物神经元
    的头像 发表于 07-11 11:13 1102次阅读

    神经元的分类包括哪些

    神经元神经系统的基本功能单位,它们通过电信号和化学信号进行信息传递和处理。神经元的分类非常复杂,可以根据不同的标准进行分类。 神经元
    的头像 发表于 07-03 11:36 1568次阅读

    神经元的结构及功能是什么

    神经元神经系统的基本结构和功能单位,它们通过电信号和化学信号进行信息传递和处理。神经元的结构和功能非常复杂,涉及到许多不同的方面。 神经元
    的头像 发表于 07-03 11:33 1662次阅读

    神经元的基本作用是什么信息

    神经元神经系统的基本功能单位,它们在大脑、脊髓和周围神经系统中发挥着至关重要的作用。神经元的基本作用是接收、处理和传递信息。本文将详细介绍神经元
    的头像 发表于 07-03 11:29 1151次阅读

    神经元的信息传递方式是什么

    神经元神经系统的基本单位,它们通过电信号和化学信号的方式进行信息传递。 神经元的信息传递方式 神经元的结构和功能 神经元
    的头像 发表于 07-03 11:27 1561次阅读

    神经元神经网络的区别与联系

    在人工智能和机器学习的领域中,神经元神经网络是两个至关重要的概念。虽然它们都与人脑中的神经系统有着密切的联系,但在实际应用和理论研究中,它们各自扮演着不同的角色。本文旨在深入探讨神经元
    的头像 发表于 07-01 11:50 1262次阅读

    英特尔推出Hala Point全球最大仿神经形态系统,解决AI效率问题

    英特尔实验室神经形态运算总监Mike Davies指出,“当前AI模型训练及部署成本增长迅速,行业亟需创新方法。因此,英特尔实验室研发了Hala P
    的头像 发表于 04-23 10:00 574次阅读

    英特尔最大神经形态计算机研制成功

    英特尔公司最近成功研制出了世界上最大的神经形态计算机Hala Point,这创新性的技术突破在人工智能领域引起了广泛关注。
    的头像 发表于 04-22 10:10 511次阅读

    英特尔研发新型神经形态计算机Hala Point,为AI发展注入新动力

    科学家对神经形态计算机抱有极高期望,因其采用人工神经元实现存储与运算功能,避免数据在组件间频繁传输,从而提高能源利用效率。
    的头像 发表于 04-19 15:47 425次阅读