0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

用光电混合突破算力边界,WAIC上这家企业大秀肌肉

Felix分析 来源:电子发烧友 作者:吴子鹏 2024-07-09 00:24 次阅读

电子发烧友网报道(文/吴子鹏)当前,摩尔定律遇到了非常大的挑战,传统硅器件要实现性能提升需要付出高昂的代价。在这个大背景下,光电混合被认为是未来计算芯片突破性能瓶颈的有效手段。就连有全球半导体风向标之称的ISSCC会议对光电混合也是高度关注,在2024年世界人工智能大会(以下简称:WAIC 2024)上,曦智科技所展示的领先的光电混合技术同样得到了广泛的关注。

wKgaomaLvlSAbDYfAAE0rUBeevw272.jpg
WAIC 2024观众参观曦智科技展台


面向AI大模型所需要的计算和互连两大关键环节,曦智科技展示了首款基于片上光网络技术(oNOC)的全长、全高、双插槽PCIe Gen3的人工智能推理卡OptiHummingbird,CPO共封装光学 (Co-Packaged Optics)方面技术储备,以及其他光计算、光互连硬件等。

打造硅光技术和光电混合算力新范式

很多人将光电混合定义为未来的科技之光,这其实并不夸张,硅光芯片和光通信等前沿技术在计算和传输方面所体现出来的优势是巨大的。比如,光子芯片具有高速、大带宽和低功耗的特点,可以更好地实现海量数据的高效处理,并避免电信号的传输噪声和传输延迟。同时,硅光计算芯片能够在单芯片内融入多种光子器件,不仅有更高的集成度,而且能够兼容传统的硅半导体器件和制造工艺。

曦智科技OptiHummingbird里面的芯片便是采用先进的封装技术,将硅光芯片和微电子芯片通过中间层进行垂直封装。在这颗芯片内部,微电子芯片提供了64个计算核,硅光芯片则提供oNOC(Optical Network on Chip)片上光网络。oNOC可以实现单个电芯片(EIC)内部的数据传输,也可以实现封装内部多个电芯片(EIC)之间的数据通信,因此oNOC是实现片上多核异构计算的核心技术。通过oNOC技术和光电混合,使得搭载相关芯片的OptiHummingbird加速卡具有非常高的计算能效,只需要被动散热,硬件功耗仅为65W。

为打造集成硅光技术与光电混合的算力新范式,曦智科技目前拥有多项前沿的技术储备。比如oMAC光子矩阵计算:通过光来替代传统的电子进行数据处理,可执行线性运算,主要指乘法与加法,也可理解为矩阵-矩阵或矩阵-向量之间的乘法;oNET片间光网络:光芯片起到类似optical BUS的作用,将单元内部需要传输的数据集中起来,通过光传播介质(如光纤)与其他单元进行数据交互。

基于这些前沿的技术,曦智科技也展示了一些前沿的成果,比如曦智科技第二代光子计算处理器PACE,PACE的核心是64x64的光学矩阵乘法器,由一块集成硅光芯片和一块CMOS微电子芯片以3D封装形式堆叠而成。PACE的单个光子芯片中集成超过10000个光子器件,运行1GHz系统时钟。在展会现场,曦智科技演示了PACE在解决最大割问题上的速度,显著优于该产品发布时市场上领先的GPU芯片。

助力实现资源池化和全光互连

除了光电混合的计算能力,曦智科技也在积极布局光电传输,现阶段这方面的需求是巨大的。举两个典型的市场需求,第一个是数据中心采用计算和存储分离式架构,很大程度上依赖于PCIe和CXL等低延迟互连,通过光互连实现CXL是非常有效的手段;第二是全光底座的打造,通过超大规模全光组网、城域池化波分和全光综合接入等关键技术,实现超大带宽、超低时延、超高可靠的连接网络,在全光底座和计算单元的连接上,也有巨大的光电混合需求。

WAIC 2024上,曦智科技展示了首款兼容PCIe和CXL协议的数据中心计算光互连硬件产品Photowave,具有标准PCIe卡、OCP 3.0 SFF卡和有源光缆等多种产品形态。该产品系列可配置x16、x8 、x4 、x2等不同通道数,适用于服务器平台、CXL交换机、存储应用以及xPU之间的互连,兼容性强。Photowave具有非常明显的低延迟和能效优势,设计数据传输延迟低于20纳秒,其中有源光缆延迟低至1纳秒以下,功耗也降至15瓦以下。这里需要特别提到的是,Photowave的核心技术便是oNET片间光网络,oNET和CXL的融合是一种强强联合,可以帮助数据中心更好地实现资源池化和横向扩展。

wKgZomaLvt6AAEvHAABfURUWFb8220.jpg
曦智科技Photowave计算光互连硬件产品


曦智科技工作人员表示,Photowave让数据中心主要资源全部解耦和池化,支持单模和多模光纤实现,最大支持数十米的传输距离,并且资源可灵活调配和增减。

曦智科技还展示了基于OCS的跨服务器XPU光互连。OCS(Optical Circuit Switching)是一种基于光学交叉开关原理的光信号控制交换技术,其核心功能是在光层面对信号进行快速、灵活的路由和切换,使服务器端口实现直接光学互连,过程中无需光电转换,能耗大幅度降低。

综合而言,曦智科技在光互连方面提供的产品包括互连线缆、OBO板载光组件、OCP转接卡和互连板卡。

结语

Yole的统计数据显示,2022年全球硅光市场规模达到6,800万美元,受益于用于提升光纤网络容量的数据中心收发器的推动,预期2028年全球硅光市场规模将达到6亿美元,其间硅光芯片年复合增长率预估为44%。当前,光传输在数据中心领域已经得到了广泛的认可,随着硅器件的计算瓶颈愈发明显,未来光电混合的计算芯片也有巨大的发展前景。无论是计算还是传输,曦智科技都已经走在了产业前沿。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 算力
    +关注

    关注

    1

    文章

    925

    浏览量

    14731
  • 曦智科技
    +关注

    关注

    0

    文章

    23

    浏览量

    5975
  • 光电芯片
    +关注

    关注

    0

    文章

    21

    浏览量

    64
收藏 人收藏

    评论

    相关推荐

    基础篇:从零开始了解

    即计算能力(Computing Power),狭义指对数字问题的运算能力,而广义指对输入信息处理后实现结果输出的一种能力。虽然处理的内容不同,但处理过程的能力都可抽象为
    的头像 发表于 11-15 14:22 245次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>基础篇:从零开始了解<b class='flag-5'>算</b><b class='flag-5'>力</b>

    企业AI租赁是什么

    企业AI租赁是指企业通过互联网向专业的提供商租用所需的计算资源,以满足其AI应用的需求。
    的头像 发表于 11-14 09:30 121次阅读

    GPU开发平台是什么

    随着AI技术的广泛应用,需求呈现出爆发式增长。AI租赁作为一种新兴的服务模式,正逐渐成为企业获取
    的头像 发表于 10-31 10:31 120次阅读

    大模型时代的需求

    现在AI已进入大模型时代,各企业都争相部署大模型,但如何保证大模型的,以及相关的稳定性和性能,是一个极为重要的问题,带着这个极为重要的问题,我需要在此书中找到答案。
    发表于 08-20 09:04

    IaaS+on+DPU(IoD)+下一代高性能底座技术白皮书

    DPU 是当下基础设施的核心创新之一。如果把 CPU 比做大脑,那么 GPU 就好比是肌肉,而 DPU 就是神经中枢。CPU 承载了应用生态,提供了通用型
    发表于 07-24 15:32

    浪潮信息携全栈智产品和方案亮相WAIC 2024

    7月4日,2024世界人工智能大会(WAIC2024)在上海开幕。大会聚焦大模型、、机器人、自动驾驶等重点领域,吸引众多国内外知名人工智能企业参会。作为全球领先的IT基础设施供应商
    的头像 发表于 07-05 18:04 1430次阅读

    驭光突破边界:曦智科技多款产品及解决方案亮相WAIC

    ,吸引众多现场观众驻足观看了解。   光子网络产品线:新型数据搬运 由于人工智能、云计算、物联网等技术的发展,当今社会正面临着数据量的指数级增长,网络的发展需要高速率、高带宽、高能效的互连技术作为支撑。光子技术凭借其低
    发表于 07-05 15:48 268次阅读
    驭光<b class='flag-5'>突破</b><b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>边界</b>:曦智科技多款产品及解决方案亮相<b class='flag-5'>WAIC</b>

    九章云极DataCanvas Alaya NeW智操作系统震撼亮相WAIC 2024

    大模型、、机器人、自动驾驶等关键领域,集中展示“人工智能+”创新应用的最新成果。九章云极DataCanvas公司作为大模型、智产业代表企业再度参展
    的头像 发表于 07-05 14:53 493次阅读
    九章云极DataCanvas Alaya NeW智<b class='flag-5'>算</b>操作系统震撼亮相<b class='flag-5'>WAIC</b> 2024

    华为云技术新突破:Flexus X 实例以其柔性加速企业一键

    实例),正是为满足这些日益严苛的需求而设计。通过引入创新的柔性技术,Flexus X 实例不仅提供了前所未有的性能优化能力,还带来了资源配置的极大灵活性和显著的成本效益,成为推动企业数字化转型的强大动力。 柔性
    的头像 发表于 07-03 15:42 639次阅读
    华为云技术新<b class='flag-5'>突破</b>:Flexus X 实例以其柔性<b class='flag-5'>算</b><b class='flag-5'>力</b>加速<b class='flag-5'>企业</b>一键<b class='flag-5'>上</b>云

    助力企业数智化云跃级提升,云耀 X 实例柔性一直加速一直快

    在云计算的大潮中,弹性一度成为行业追逐的热点。然而,随着业务需求的日益复杂化和精细化,传统的粗颗粒度已经难以满足企业对于
    的头像 发表于 05-27 11:02 546次阅读
    助力<b class='flag-5'>企业</b>数智化<b class='flag-5'>上</b>云跃级提升,云耀 X 实例柔性<b class='flag-5'>算</b><b class='flag-5'>力</b>一直加速一直快

    十问:超,通存比

    邬贺铨指出,现有测算方法难以精准衡量。国内企业服务器的出货量并不等于国内市场的使用量,而且进口国外的服务器未统计在内;服务器出货量也不等于架量,更不等于已经加电使用量。通常服务器
    的头像 发表于 04-13 11:40 4209次阅读

    Sora需求引发业界对集结国内AI企业的探讨

    据周鸿祎观察,Sora视频分析所需恐远超千亿规模模型。因而,考虑到如今国内芯片供应受限,问题至关重要。事实,Meta已有约50万台
    的头像 发表于 02-25 10:03 538次阅读

    智能规模超通用,大模型对智能提出高要求

    电子发烧友网报道(文/李弯弯)是设备通过处理数据,实现特定结果输出的计算能力,常用FLOPS作为计量单位。FLOPS是Floating-point Operations Per Second
    的头像 发表于 02-06 00:08 6068次阅读

    大茉莉X16-P,5800M大称王称霸

    Rykj365
    发布于 :2024年01月25日 14:54:52

    弘信电子与AI服务器合资,助力国产芯片落地

    此外,弘信电子近期在AI业务取得了突破性进展,这并非源自本土化的积累,而是依赖于团队敏锐的战略眼光和强烈的创新动力。此次投资是弘信电子在AI
    的头像 发表于 12-25 09:30 827次阅读