0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

片上光互连:未来单芯片算力提升的重要路径

Hobby观察 来源:电子发烧友网 作者:梁浩斌 2023-12-18 07:00 次阅读
电子发烧友网报道(文/梁浩斌)今年火爆的AI应用也带火了数据中心市场,AI服务器需求暴增。不仅是AI大模型的规模在不断扩张至千亿级参数,还有越来越多不同类型的大模型训练和推理,都需要更强大的算力集群。

在一个多服务器构成的算力系统中,互连速率其实很大程度上决定着整个系统的性能上限,因此在片间互连方面,也开始采用CPO光电合封技术,将交换芯片光电器件封装在一起,使得光电器件与芯片之间的数据传输损耗减小、提高传输速度。

但另一方面,由于半导体晶体管密度的提升速度放缓,单个计算节点中,比如单张AI加速卡上的芯片采用Chiplet技术成为了趋势,即多个小的“芯粒”封装在一起,通过互连组成一个整体的计算引擎。而为了提高chiplet设计的性能,芯片内部多个die之间的互连也非常关键。ONoC(Optical Network-on-Chip)片上光互连正是为了解决这个问题。

片上光互连:晶圆级的光互连网络

从结构上看,片上光互连其实是一种光子集成芯片技术,将不同功能的有源器件和无源器件集成在同一块光电基板上。光电基板上具有光子路由波导,这些波导被用于数据通信,和用于电路走线的多层金属层。CMOS电芯片堆叠在硅光芯片上,在光电基板上形成二维阵列。

光从基板上的激光光源中发出,输入到基板上的路由波导,通过波导到达光芯片上的调制器。这个时候电芯片上的信息数据,通过电芯片和光芯片之间的微凸块加载到环形调制器中,将数字1和0转换为光的强度差异。

调制后的光信号通过光电基板上的波导传播,到达其他光芯片上的光电探测器中。这个时候光信号就被转换成电信号,这些信息就被不同的电芯片所接收。

当然在实际应用中,每个CMOS芯片和光芯片之间,都有数以千计的微凸块被用于数据传输。因为光信号传播不需要铜导线,损耗小,延迟低,这样就实现了在光电基板上进行高能效、高带宽密度、低延迟的光互连。

工作原理上看,其实可以大致分析出片上光互连的核心器件主要是激光器、调制器和接收器。要想提高片上光互连的传输容量,可以使用波分复用、偏振复用、模分复用等技术实现。

目前,针对单一物理维度光信号的复用、解复用设备已经相对成熟。为了进一步提高片上光互连系统的通道数量和传输容量,多种复用方式的综合运用成为了重要的研究趋势。例如,波长-偏振-模式混合复用等技术能够显著提升片上光互连系统的性能。此外,片上光互连架构的设计与选择对性能的提升也具有不可忽视的作用。片上光互连架构不仅决定了片上网络中不同节点的互连方式,同时也影响了路由器的端口数量和网络链路数量,进一步影响了网络的时延、功耗和可靠性等性能指标。

因此,综合运用多种复用方式并优化片上光互连架构是片上光互连发展的重要趋势。

距离落地应用还有多远?

目前片上光互连技术主要处于实验室阶段,还未大规模量产。业界的主要玩家包括一些高校和研究机构,比如美国加州大学圣巴巴拉分校、加州伯克利大学、荷兰的埃因霍温科技大学和特温特大学、美国集成光子制造研究所、中科院半导体所等。另外也有英特尔、曦智科技等厂商在推动相关技术的产业化。

英特尔在今年的Hot CHIPS会议上,展示了一款代号为“Piuma”的8核528线程处理器,而这款处理器的最大特点在于,采用了硅光子互连,能够提供1TB/s的光学带宽,可以将多达131,072个芯片连接在一起,形成一个大型共享内存的图形处理超级计算机。

在Piuma组成的超级计算机中,路由器就是网络,所有设备都通过 HyperX 拓扑进行连接,每个机架内将有16个Piuma芯片。不过英特尔目前还未决定Piuma芯片是否会进行商业化,他们表示,如果有客户提供资金支持,公司将会很乐意生产这款产品

曦智科技近几年一直在片上光互连技术上努力推进商业化,今年HiPChips会议上,曦智科技展示了其片上光互连技术上的最新进展,该系统的通道数为512,单通道最长广播距离为50mm,广播延时1ns,单通道频率4GHz,片上总带宽达到2Tbps。实测数据显示,该计算系统完成多个计算核之间All-to-All的数据广播,这将大幅提高每个计算核的算力利用率。

而基于该片上光互连技术,曦智科技正在推动第一款商用级光电混合计算加速卡的商业化落地,未来将搭载曦智科技自研软件栈,在商用场景下发挥片上光互连低延迟、低功耗的优势。

小结:

在芯片受限于制程工艺、晶体管密度提高放缓的情况下,通过芯粒的设计将多个die封装在同一基板上成为了突破单芯片性能的一条重要路线。而这条路线的关键在于片上互连技术的发展,片上光互连技术也为未来的chiplet设计路线提供了更多的可能。
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 光互连
    +关注

    关注

    0

    文章

    10

    浏览量

    7771
收藏 人收藏

    评论

    相关推荐

    芯耀辉科技解读高速互连对于AI和大芯片而言意味着什么?

    近年来,随着人工智能技术的迅猛发展,大芯片已成为推动AI技术创新的关键力量。然而,随着芯片内部计算单元数量的增加和任务复杂度的提升
    的头像 发表于 07-08 11:39 334次阅读

    光子计算芯片最新突破,峰值超1000tops,比电芯片更适合大模型

    电子发烧友网报道(文/李弯弯)近日,国内光计算芯片公司光本位科技宣布,公司已完成算密度和精度均达到商用标准的光计算芯片
    的头像 发表于 07-08 07:18 889次阅读
    光子计算<b class='flag-5'>芯片</b>最新突破,峰值<b class='flag-5'>算</b><b class='flag-5'>力</b>超1000tops,比电<b class='flag-5'>芯片</b>更适合大模型

    揭秘芯片:为何它如此关键?

    在数字化时代,芯片作为电子设备的核心组件,其性能直接关系到设备的运行速度和处理能力。而芯片,即其计算能力,更是衡量芯片性能的
    的头像 发表于 05-09 08:27 390次阅读
    揭秘<b class='flag-5'>芯片</b><b class='flag-5'>算</b><b class='flag-5'>力</b>:为何它如此关键?

    力系列基础篇——101:从零开始了解

    相信大家已经感受到,我们正处在一个人工智能时代。如果要问在人工智能时代最重要的是什么?那必须是:
    的头像 发表于 04-24 08:05 975次阅读
    <b class='flag-5'>算</b>力系列基础篇——<b class='flag-5'>算</b><b class='flag-5'>力</b>101:从零开始了解<b class='flag-5'>算</b><b class='flag-5'>力</b>

    芯片未来科技的加速器?

    在数字化时代,芯片作为电子设备的核心组件,其性能直接关系到设备的运行速度和处理能力。而芯片,即其计算能力,更是衡量芯片性能的
    的头像 发表于 02-27 09:42 582次阅读
    高<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>芯片</b>:<b class='flag-5'>未来</b>科技的加速器?

    iBeLink KS MAX 10.5T大领跑KAS新领域

    有8G的显存,可以处理复杂的算法,提高挖掘稳定性。iBeLink ks max10.5T的超大特点是它的高效节能,它采用了先进的“存一体”高通量芯片,专为“大型复杂”的区的块的链
    发表于 02-20 16:11

    大茉莉X16-P,5800M大称王称霸

    Rykj365
    发布于 :2024年01月25日 14:54:52

    芯砺智能Chiplet Die-to-Die互连IP芯片成功回

    芯砺智能近日宣布,其全自研的Chiplet Die-to-Die互连IP(CL-Link)芯片一次性流成功并顺利点亮。这一重大突破标志着芯砺智能在异构集成芯片领域取得了领先地位,为人
    的头像 发表于 01-18 16:03 685次阅读

    浅谈为AI大而生的存-体芯片

    大模型爆火之后,存一体获得了更多的关注与机会,其原因之一是因为存一体芯片的裸相比传统架构的AI
    发表于 12-06 15:00 249次阅读
    浅谈为AI大<b class='flag-5'>算</b><b class='flag-5'>力</b>而生的存<b class='flag-5'>算</b>-体<b class='flag-5'>芯片</b>

    芯片里的HBM,你了解多少?

    最近,随着人工智能行业的高速崛起,大芯片业成为半导体行业为数不多的热门领域HBM(高宽带内存:High-bandwidthmemory)作为大
    的头像 发表于 12-05 16:14 1105次阅读
    大<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>芯片</b>里的HBM,你了解多少?

    芯片560TOPS!地平线下一代自动驾驶芯片曝光

    电子发烧友网报道(文/梁浩斌)今年9月德国慕尼黑车展期间,地平线就宣布其征程系列芯片出货量已经增长至近400万,在国内智能驾驶芯片行业中量产规模“遥遥领先”。其中,面向高
    的头像 发表于 11-24 00:08 2018次阅读

    国际首个全模拟光电智能计算芯片提升3000倍

    据团队介绍,实测结果显示,该芯片在智能视觉目标识别任务方面的可超过目前高性能商用芯片3000倍,为超高性能芯片的研发开辟全新
    的头像 发表于 11-08 18:23 1183次阅读
    国际首个全模拟光电智能计算<b class='flag-5'>芯片</b>的<b class='flag-5'>算</b><b class='flag-5'>力</b>可<b class='flag-5'>提升</b>3000倍

    曙光在全国范围内参与建立多个中心

    未来基础设施发展新趋势。 中科曙光高级副总裁李斌   基础设施作为
    的头像 发表于 10-31 09:05 652次阅读

    ai芯片芯片的区别

    ai芯片芯片的区别 随着人工智能和机器学习应用的不断发展,因此种种对硬件的需求也在不断提高。在这样的趋势之下,出现了很多新的芯片产品。
    的头像 发表于 08-09 14:24 4344次阅读

    云端芯片为什么是科技石油?

    21世纪前后,人类逐渐从工业时代步入信息时代,当下AI时代的大门又再度缓缓开启。2023年以来,以ChatGPT为首的生成式AI逐渐渗透到了各行各业中,有人说,这或许又是一个IPhone时刻。AI起舞,搭台,
    的头像 发表于 07-12 10:21 592次阅读