0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

光学器件在人工智能集群中不断演变的作用

易天小讲堂 来源:易天小讲堂 作者:易天小讲堂 2024-07-16 14:00 次阅读

近期,市场研究机构LightCounting (以下简称LC)发布了主题为“人工智能光学”的新报告。报告指出人工智能在眨眼之间就已崭露头角。LC 的首份《人工智能光学》报告强调了人工智能如何改变计算机架构和网络,而光学在其中发挥着关键作用。LC的人工智能预测侧重于光学。但是,该机构称如果再加上一条预测,那就是:光学不仅将在人工智能系统的发展中发挥重要作用,而且人工智能将越来越多地在晶体管芯片和系统层面为这些系统的设计做出贡献。

整个行业的创新速度各不相同。新应用的开发速度很快。其中大多数会失败,但也有一些会成功,似乎一夜之间就能改变世界。软件和人工智能算法的创新速度之快超出了我们的想象。至少在外部观察者看来是这样,但专家们可能不这么认为。

硬件领域的创新则是一个更为渐进却又无情的过程。光连接也不例外,对此有可靠的数据参考。硅光子技术的应用花了十年时间,都在等待这项技术带来真正颠覆性的解决方案,如可靠的协同封装光学技术。毫无疑问,这种情况将在本十年末出现,但本报告的预测重点是部署在人工智能集群中的可插拔光模块--这是当前和未来五年光连接的主要解决方案。

目前,90% 以上部署在人工智能集群中的光模块用于 InfiniBand 和以太网连接。如下图所示,NVLink 连接到 GPU 所需的带宽是以太网和 InfiniBand 的 4 倍。人工智能集群设计的另一个瓶颈是 GPU 可用的高带宽内存(HBM)有限,这也是带宽提高 3 倍的另一个因素。

wKgZomaWDGCAeIMyAAA8_R3ubL8730.png

事实证明,光交换机可以用来扩展和重新配置其人工智能集群并以此提高集群性能,同时最大限度地降低成本和功耗。该研究机构预计,在未来 3-5 年内,将有更多公司采用这项技术。

人工智能集群中应用的光学需求规模是 2023 年的一个惊喜,同时ChatGTP 在 2022 年底成为头条新闻的时机尤为重要。对即将到来的经济衰退的担忧和收入增长下降的初步迹象迫使所有领先的云计算公司削减开支,包括对数据中心的投资和光模块的采购。2024-2025 年的强劲增长毋庸置疑。

大型网络设备制造商业务的增长是影响 2023-2025 年光模块销量的主要因素。人工智能集群的新设计需要更多的光模块。以前的所有系统都只使用 InfiniBand 网络进行光连接,而且这些系统大多是 AOC。基于 NDR(400G)InfiniBand 的最新系统使用可插拔的 400/800G SR4/SR8 和 DR4/DR8 光模块,而不是 AOC。该公司还于 2022 年 3 月发布了专为 800G 光连接设计的 NVLink 机箱交换机。该公司目前正在内部测试光纤 NVLink,但这些解决方案应在 2024 年底前提供给最终用户。如果需要更长的时间,LC称将不得不降低对 2025-2029 年的预测。

wKgaomaWDGGAX9HSAALw1B4R5WI70.jpeg

本报告首次对大型网络设备制造商提供的光模块进行了预测,并将其与 AI 集群中使用的其他光模块进行了比较。该制造商设计的光模块具有更严格的误码率规范,以最大限度地减少传输误差。这并不妨碍客户使用第三方光学器件,但不能保证系统性能。LC预计,终端用户最终将过渡到使用第三方光学器件,以节省成本,但这将是一个逐步过渡的过程。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1787

    文章

    45806

    浏览量

    234139
  • 光模块
    +关注

    关注

    73

    文章

    1198

    浏览量

    58542
  • 光学器件
    +关注

    关注

    1

    文章

    137

    浏览量

    11862
收藏 人收藏

    评论

    相关推荐

    报名开启!深圳(国际)通用人工智能大会将启幕,国内外大咖齐聚话AI

    ,得到了华为、腾讯、优必选、煤科工、中国联通、云天励飞、考拉悠然、智航、力维智联等国内人工智能企业的深度参与和大力支持。 报名后即可到现场领取礼品,总计5000份,先到先选! 点击报名:https://bbs.elecfans.com/jishu_2447254_1
    发表于 08-22 15:00

    激光封装技术人工智能发展作用

    来源:逍遥科技 逍遥设计自动化 简介 随着人工智能(AI)应用的迅速发展,对大带宽、高效率数据传输解决方案的需求日益突出。目前用于AI训练和推理的成千上万个GPU正面临传统数据中心网络互联方案所带来
    的头像 发表于 08-20 16:42 156次阅读
    激光封装技术<b class='flag-5'>在</b><b class='flag-5'>人工智能</b>发展<b class='flag-5'>中</b>的<b class='flag-5'>作用</b>

    FPGA人工智能的应用有哪些?

    FPGA(现场可编程门阵列)人工智能领域的应用非常广泛,主要体现在以下几个方面: 一、深度学习加速 训练和推理过程加速:FPGA可以用来加速深度学习的训练和推理过程。由于其高并行性和低延迟特性
    发表于 07-29 17:05

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V2)

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V2) 课程类别 课程名称 视频课程时长 视频课程链接 课件链接 人工智能 参赛基础知识指引 14分50秒 https
    发表于 05-10 16:46

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V1)

    课程类别 课程名称 视频课程时长 视频课程链接 课件链接 人工智能 参赛基础知识指引 14分50秒 https://t.elecfans.com/v/25508.html *附件:参赛基础知识指引
    发表于 04-01 10:40

    嵌入式人工智能的就业方向有哪些?

    嵌入式人工智能的就业方向有哪些? 新一轮科技革命与产业变革的时代背景下,嵌入式人工智能成为国家新型基础建设与传统产业升级的核心驱动力。同时在此背景驱动下,众多名企也纷纷嵌入式
    发表于 02-26 10:17

    人工智能在工业领域的作用

    本文是系列的第一部分,我们将探讨人工智能在工业领域的作用
    的头像 发表于 12-21 11:07 644次阅读

    语音数据集人工智能的应用与挑战

    一、引言 随着人工智能技术的快速发展,语音数据集各种应用中发挥着越来越重要的作用。语音数据集是AI语音技术的基石,对于语音识别、语音合成、语音情感分析等任务具有重要意义。本文将详细介绍语音数据集
    的头像 发表于 12-14 15:00 459次阅读

    镜头光学系统作用

    镜头分辨率光学系统的核心作用
    发表于 12-04 10:12 0次下载

    人工智能大模型、应用场景、应用部署教程超详细资料

    人工智能是IC行业近几年的热词,目前此技术已经有很多成熟的模型和落地案例。在此跟大家做个分享,更多详细资料,请自行搜索:【展锐坦克邦】,坦克邦-智算天地集算法模型、部署说明于一体,为广大客户提供了
    发表于 11-13 14:49

    如何使单片机与无线供电结合,从而使人工智能脱离电池和线路?

    如何使单片机与无线供电结合,从而使人工智能脱离电池和线路
    发表于 10-31 06:34

    人工智能热潮推动光芯片与光器件需求飙升

    随着人工智能技术的迅猛发展,光芯片和光器件作为关键的基础技术,在这一浪潮下迎来了前所未有的需求增长。光芯片和光器件的高速率、高带宽、低能耗等优势,使其
    的头像 发表于 09-25 17:19 430次阅读
    <b class='flag-5'>人工智能</b>热潮推动光芯片与光<b class='flag-5'>器件</b>需求飙升

    ai人工智能机器人

    随着时间的推移,人工智能的发展越来越成熟,智能时代也离人们越来越近,近几年人工智能越来越火爆,人工智能的应用已经开始渗透到各行各业,与生活交融,成为人们无法拒绝,无法失去的一个重要存在
    发表于 09-21 11:09

    《通用人工智能:初心与未来》-试读报告

    作者给出的结论。整体读下来,可以给我们关于通用人工智能全面的了解。作者也反复强调了通用人工智能与专用智能的区别。尤其是人们错误的认为一堆专用智能堆砌起来就是通用
    发表于 09-18 10:02

    如何将人工智能应用到效能评估系统软件中去解决

    ,我们可以将其应用到效能评估系统,进一步提高效能评估的准确性和实用性。   华盛恒辉可以利用人工智能技术,通过对大量数据的分析,来识别和评估各个业务环节的表现,从而对效能进行评估和监测。此外,我们还可
    发表于 08-30 12:58