0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

指数级增长的AI计算量,给光子计算带来了新的机遇

E4Life 来源:电子发烧友网 作者:周凯扬 2023-07-04 01:06 次阅读

电子发烧友网报道(文/周凯扬)在生成式AI爆发和计算量指数增长的当下,不少传统的AI加速器以及网络芯片公司都因此受益,纷纷在已有的架构上针对AI或HPC进行优化。但与此同时,也有不少企业将希望寄托于创新的硅光计算架构上,指望光子能带来全新的计算与互联方案。

Lightmatter

2021年,Lightmatter推出了Envise这一通用光子AI加速器方案,可以完成各种先进AI模型(GPT-3、Megatron)以及主要神经网络(BERT-Large、DLRM、ResNet-50)的高性能推理。与之一同推出的还有Lightmatter针对AI应用专门打造的软件栈,Idiom,用于在Envise上编译和执行神经网络模型,并提供查错、分析和优化的工具。

最有野心的自然还是一同公布的晶圆级光子互联方案,Passage。该方案基于硅光和共封装光学(CPO)方案,将Chiplet处理器互联在一起。就像是我们在英伟达HGX A100上看到的PCB/电路方案一样,只不过这次NVSwitch这样的互联方案换成了光子通路,芯片与芯片之间的互联带宽最高可达100Tbps。根据Lightmatter提供的示意图,他们直接跳过了2.5D CPO和3D CPO的方案,转为集成激光器件的3D CPO方案。

为了应对这股AI潮,并成功在未来将更多光子产品交付给客户,比如大型云服务厂商半导体公司等,Lightmatter在今年5月底开启了C轮融资,最终成功从SIP Global、谷歌、HPE等企业获得了1.54亿美元的融资,为公司迄今以来最大的一笔融资。为了进一步提高其设计实力,Lightmatter还在去年招募了谷歌Tensor项目主导人以及英特尔数据中心封装的主导人。

曦智科技

曦智科技作为光子计算的领头厂商之一,于2021年底发布了其第二代光子计算处理器PACE。PACE采用了64x64的光学矩阵乘法器作为核心,整个处理器由一块集成硅光芯片和一块CMOS微电子芯片3D封装堆叠而成。该结构下的PACE单个光子芯片中集成了10000多个光子器件,加上1GHz的时钟频率,据曦智科技的说法,PACE运行某些神经网络算法的速度可达彼时高端GPU的数百倍。

而这仅仅是曦智科技在光子矩阵计算(oMAC)上的应用,为了进一步打破内存墙,他们需要在互联技术上有所突破。近日,曦智科技发布了全新的大数据互联解决方案,Hummingbird。Hummingbird是全球首个光子片上网络(oNOC)处理器,专为特定领域的AI负载所设计。

wKgaomSineOACtf-AADWbReBwos103.jpg
Hummingbird PCIe板卡 / 曦智科技


在Hummingbird上,曦智科技为64个核心打造了一个低延迟的全通广播网络,加上64个发射器与512个接收器,Hummingbird提供了一个灵活配置的高密度光学拓扑结构。此外,Hummingbird采用了光学IC与电子IC共封装进PCIe卡的方式,因此可以直接用于标准服务器中。曦智科技表示他们将在今年第三季度推出Hummingbird PCIe卡和SDK,并在今年的闪存峰会和HotChips上展示Demo和更多情报。

写在最后

其实追求光子计算的原因并不仅仅只有突破计算或互联瓶颈而已,在AI把计算量进一步拔高的当下,在维持性能扩张速度的同时控制功耗和碳排放已经变得越来越难了。要想解决这个问题,就不得不换一种出路,利用光子计算的结构来抵消晶体管的能耗。

固然光子计算芯片对于大部分半导体公司,还属于和量子计算一样够不着的概念。但现在看来,随着晶圆厂在硅光工艺上的成熟,EDA厂商逐渐完善的光电设计工具,光子计算依然是值得深入探索的新兴技术领域。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 光子计算
    +关注

    关注

    0

    文章

    16

    浏览量

    3130
收藏 人收藏

    相关推荐

    EastWave应用:自动计算光子晶体透反率

    本案例使用“自动计算透反率模式”研究光子晶体的透反率,将建立简单二维光子晶体结构以说明透反率的计算方法。 模型示意图: 预览网格划分效果如下: 观察到下面的实时场: 记录得到数据
    发表于 02-28 08:46

    研华科技如何抓住边缘计算AI融合的新机遇

    IDC报告指出,边缘计算AI融合引领工业变革,预计中国现场边缘算力设备市场持续扩展。研华凭借全栈Edge AI解决方案,积极推动智能化转型,助力全球行业实现数字化升级。
    的头像 发表于 02-26 13:31 311次阅读

    AI赋能边缘网关:开启智能时代的新蓝海

    。这一变革不仅带来了技术架构的革新,更为产业发展开辟了新的增长空间。 传统边缘网关受限于计算能力和算法支持,往往只能完成数据采集和简单处理,大量原始数据需要回传云端处理,导致响应延迟和带宽压力。
    发表于 02-15 11:41

    华迅光通AI计算加速800G光模块部署

    400G光模块。更多信息可以在这篇文章中找到:NVIDIA DGX H100简介。这表明在叶脊架构下,数据中心对高速光模块的需求呈指数增长。随着数据中心规模的扩大,特别是对AI大型模
    发表于 11-13 10:16

    AI高性能计算平台是什么

    AI高性能计算平台不仅是AI技术发展的基石,更是推动AI应用落地、加速产业升级的重要工具。以下,是对AI高性能
    的头像 发表于 11-11 09:56 358次阅读

    物联网边缘计算的概念

    在数字化转型的浪潮中,物联网(IoT)已经成为连接物理世界与数字世界的桥梁。随着数十亿设备联网,数据指数增长,传统的云计算中心面临着前
    的头像 发表于 10-29 11:30 551次阅读

    新思科技探索AI+EDA的更多可能性

    芯片设计复杂性的快速指数增长开发者带来了巨大的挑战,整个行业不仅要向埃米发展、Muiti-
    的头像 发表于 08-29 11:19 632次阅读

    AI4Science黑客松光子计算挑战赛成功举办

    经过数月角逐,第二届AI4Science黑客松竞赛日前落下帷幕。在曦智科技主持的光子计算挑战赛中,参赛选手何自强和来自东北大学的参赛队伍The Power of Light获得完赛优胜奖。
    的头像 发表于 08-07 09:58 685次阅读

    RISC-V在中国的发展机遇有哪些场景?

    联网市场的重要参与者,拥有庞大的用户基数和丰富的应用场景。RISC-V在中国的发展将受益于这一市场需求的增长。 2. 人工智能(AIAI算力需求:随着人工智能技术的广泛应用,对算力的需求不断增加
    发表于 07-29 17:14

    ai边缘盒子有哪些用途?ai视频分析边缘计算盒子详解

    近年来,随着人工智能和边缘计算的发展,一种名为AI边缘盒子的新型设备正逐渐引起广泛关注。作为一种集成了边缘计算AI算法处理能力的设备,AI
    的头像 发表于 05-29 14:24 1202次阅读
    <b class='flag-5'>ai</b>边缘盒子有哪些用途?<b class='flag-5'>ai</b>视频分析边缘<b class='flag-5'>计算</b>盒子详解

    存内计算WTM2101编译工具链 资料

    工艺条件下将AI计算效率提升2个数量级,充分满足快速发展的神经网络模型指数增长的算力需求。 witin_mapper是知存科技自研的用于
    发表于 05-16 16:33

    高性能AI芯片设计的温控与电磁干扰问题

    人工智能 (AI) 系统及其大型数据集、机器学习算法和计算硬件的高速发展,为各种领域带来了重大机遇,但也带来了巨大的挑战。
    发表于 04-28 10:47 620次阅读

    Arm 的使命是助力应对 AI 无止尽的能源需求

    社会带来的益处将超乎我们的想象。为了运行这些复杂的 AI 工作负载,全球数据中心所需的计算需要以指数
    的头像 发表于 04-26 11:28 444次阅读

    Arm 的使命是助力应对 AI 无止尽的能源需求

    这些复杂的 AI 工作负载,全球数据中心所需的计算需要以指数规模进行扩展。然而,这种对计算
    发表于 04-23 13:35 212次阅读

    AI时代如何确保计算安全?

    正如其他技术革新一样,人工智能 (AI) 为人们的数字体验带来了机遇,但同时也伴随着诸多挑战。
    的头像 发表于 04-09 17:07 559次阅读