0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

光学器件在人工智能集群中不断演变的作用

易天小讲堂 来源:易天小讲堂 作者:易天小讲堂 2024-07-16 14:00 次阅读

近期,市场研究机构LightCounting (以下简称LC)发布了主题为“人工智能光学”的新报告。报告指出人工智能在眨眼之间就已崭露头角。LC 的首份《人工智能光学》报告强调了人工智能如何改变计算机架构和网络,而光学在其中发挥着关键作用。LC的人工智能预测侧重于光学。但是,该机构称如果再加上一条预测,那就是:光学不仅将在人工智能系统的发展中发挥重要作用,而且人工智能将越来越多地在晶体管芯片和系统层面为这些系统的设计做出贡献。

整个行业的创新速度各不相同。新应用的开发速度很快。其中大多数会失败,但也有一些会成功,似乎一夜之间就能改变世界。软件和人工智能算法的创新速度之快超出了我们的想象。至少在外部观察者看来是这样,但专家们可能不这么认为。

硬件领域的创新则是一个更为渐进却又无情的过程。光连接也不例外,对此有可靠的数据参考。硅光子技术的应用花了十年时间,都在等待这项技术带来真正颠覆性的解决方案,如可靠的协同封装光学技术。毫无疑问,这种情况将在本十年末出现,但本报告的预测重点是部署在人工智能集群中的可插拔光模块--这是当前和未来五年光连接的主要解决方案。

目前,90% 以上部署在人工智能集群中的光模块用于 InfiniBand 和以太网连接。如下图所示,NVLink 连接到 GPU 所需的带宽是以太网和 InfiniBand 的 4 倍。人工智能集群设计的另一个瓶颈是 GPU 可用的高带宽内存(HBM)有限,这也是带宽提高 3 倍的另一个因素。

wKgZomaWDGCAeIMyAAA8_R3ubL8730.png

事实证明,光交换机可以用来扩展和重新配置其人工智能集群并以此提高集群性能,同时最大限度地降低成本和功耗。该研究机构预计,在未来 3-5 年内,将有更多公司采用这项技术。

人工智能集群中应用的光学需求规模是 2023 年的一个惊喜,同时ChatGTP 在 2022 年底成为头条新闻的时机尤为重要。对即将到来的经济衰退的担忧和收入增长下降的初步迹象迫使所有领先的云计算公司削减开支,包括对数据中心的投资和光模块的采购。2024-2025 年的强劲增长毋庸置疑。

大型网络设备制造商业务的增长是影响 2023-2025 年光模块销量的主要因素。人工智能集群的新设计需要更多的光模块。以前的所有系统都只使用 InfiniBand 网络进行光连接,而且这些系统大多是 AOC。基于 NDR(400G)InfiniBand 的最新系统使用可插拔的 400/800G SR4/SR8 和 DR4/DR8 光模块,而不是 AOC。该公司还于 2022 年 3 月发布了专为 800G 光连接设计的 NVLink 机箱交换机。该公司目前正在内部测试光纤 NVLink,但这些解决方案应在 2024 年底前提供给最终用户。如果需要更长的时间,LC称将不得不降低对 2025-2029 年的预测。

wKgaomaWDGGAX9HSAALw1B4R5WI70.jpeg

本报告首次对大型网络设备制造商提供的光模块进行了预测,并将其与 AI 集群中使用的其他光模块进行了比较。该制造商设计的光模块具有更严格的误码率规范,以最大限度地减少传输误差。这并不妨碍客户使用第三方光学器件,但不能保证系统性能。LC预计,终端用户最终将过渡到使用第三方光学器件,以节省成本,但这将是一个逐步过渡的过程。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1791

    文章

    46963

    浏览量

    237820
  • 光模块
    +关注

    关注

    76

    文章

    1251

    浏览量

    58930
  • 光学器件
    +关注

    关注

    1

    文章

    139

    浏览量

    11906
收藏 人收藏

    评论

    相关推荐

    ASIC集成电路人工智能的应用

    的性能和能效比。以下是对ASIC集成电路人工智能应用的分析: 一、ASIC集成电路的优势 高性能 :ASIC针对特定应用进行优化设计,可以充分发挥硬件的并行处理能力,实现高性能计算。这使得ASIC
    的头像 发表于 11-20 16:03 275次阅读

    嵌入式和人工智能究竟是什么关系?

    学习和更新提供了可能,从而使人工智能应用能够不断适应和优化。 总的来说,嵌入式系统人工智能作用
    发表于 11-14 16:39

    soc人工智能的创新应用

    社会计算(Social Computing, SOC)是一个跨学科领域,它结合了社会科学、计算机科学和人工智能,以理解和设计社会互动的技术系统。随着人工智能(AI)技术的发展,SOC
    的头像 发表于 11-10 09:30 323次阅读

    《AI for Science:人工智能驱动科学创新》第6章人AI与能源科学读后感

    驱动科学创新》的第6章为我提供了宝贵的知识和见解,让我对人工智能在能源科学的应用有了更深入的认识。通过阅读这一章,我更加坚信人工智能在未来能源科学领域中的重要地位和作用。同时,我也意
    发表于 10-14 09:27

    AI for Science:人工智能驱动科学创新》第4章-AI与生命科学读后感

    很幸运社区给我一个阅读此书的机会,感谢平台。 《AI for Science:人工智能驱动科学创新》第4章关于AI与生命科学的部分,为我们揭示了人工智能技术在生命科学领域中的广泛应用和深远影响。
    发表于 10-14 09:21

    《AI for Science:人工智能驱动科学创新》第二章AI for Science的技术支撑学习心得

    ,推动科学研究的深入发展。 总结 通过阅读《AI for Science:人工智能驱动科学创新》第二章,我对AI for Science的技术支撑有了更加全面和深入的理解。我深刻认识到AI科学研究
    发表于 10-14 09:16

    《AI for Science:人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

    。 5. 展望未来 最后,第一章让我对人工智能驱动的科学创新未来充满了期待。随着技术的不断进步和应用场景的拓展,AI将在更多领域发挥关键作用,从基础科学到应用科学,从理论研究到实践应用,都将迎来前所未有
    发表于 10-14 09:12

    自动光学检测(AOI)技术PCBA加工的关键作用

    一站式PCBA智造厂家今天为大家讲讲AOI光学检测PCB制造中有什么作用?自动光学检测(AOI)PCBA加工
    的头像 发表于 10-09 09:13 288次阅读
    自动<b class='flag-5'>光学</b>检测(AOI)技术<b class='flag-5'>在</b>PCBA加工<b class='flag-5'>中</b>的关键<b class='flag-5'>作用</b>

    risc-v人工智能图像处理应用前景分析

    定制性。这些特点使得RISC-V多个领域,包括人工智能图像处理领域,具有显著的优势。 二、RISC-V人工智能图像处理的优势 开源性和
    发表于 09-28 11:00

    名单公布!【书籍评测活动NO.44】AI for Science:人工智能驱动科学创新

    材料基因组工程的推动下,人工智能如何与材料科学结合,加快传统材料和新型材料的开发过程。 第4章介绍了人工智能在加快药物研发、辅助基因研究方面及合成生物学的普遍应用。 第5章介绍了
    发表于 09-09 13:54

    报名开启!深圳(国际)通用人工智能大会将启幕,国内外大咖齐聚话AI

    ,得到了华为、腾讯、优必选、煤科工、中国联通、云天励飞、考拉悠然、智航、力维智联等国内人工智能企业的深度参与和大力支持。 报名后即可到现场领取礼品,总计5000份,先到先选! 点击报名:https://bbs.elecfans.com/jishu_2447254_1
    发表于 08-22 15:00

    FPGA人工智能的应用有哪些?

    FPGA(现场可编程门阵列)人工智能领域的应用非常广泛,主要体现在以下几个方面: 一、深度学习加速 训练和推理过程加速:FPGA可以用来加速深度学习的训练和推理过程。由于其高并行性和低延迟特性
    发表于 07-29 17:05

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V1)

    课程类别 课程名称 视频课程时长 视频课程链接 课件链接 人工智能 参赛基础知识指引 14分50秒 https://t.elecfans.com/v/25508.html *附件:参赛基础知识指引
    发表于 04-01 10:40

    嵌入式人工智能的就业方向有哪些?

    嵌入式人工智能的就业方向有哪些? 新一轮科技革命与产业变革的时代背景下,嵌入式人工智能成为国家新型基础建设与传统产业升级的核心驱动力。同时在此背景驱动下,众多名企也纷纷嵌入式
    发表于 02-26 10:17

    语音数据集人工智能的应用与挑战

    一、引言 随着人工智能技术的快速发展,语音数据集各种应用中发挥着越来越重要的作用。语音数据集是AI语音技术的基石,对于语音识别、语音合成、语音情感分析等任务具有重要意义。本文将详细介绍语音数据集
    的头像 发表于 12-14 15:00 663次阅读