0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

认识一下AI算力应用中的光模块产品

易飞扬通信 来源:易飞扬通信 2023-12-29 16:14 次阅读

以ChatGPT为代表的AI大模型应用普及将推动算力需求快速增长,服务器产业链是其中重要的受益环节之一,AI计算的普及将推动服务器产业链光模块向800G升级提速。

算力网络驱动下光模块市场需求预测

光模块是数据中心内部互连和数据中心相互连接的核心部件。100G和400G是主流产品,800G过去主要用在超算等领域。据LightCounting预计,2023年800G全球普及率仅0.62%。而以ChatGPT为代表的AI大模型,对数据中心内外的数据流量都提出了新要求,有望推动光模块加速向800G升级。800G光模块将从2025年底开始主导光模块市场。

2adbcdbe-a622-11ee-8b88-92fbcf53809c.png

根据LightCounting的数据,2016年至2020年,全球光模块市场规模从58.6亿美元增长到66.7亿美元,预测2025年全球光模块市场将达到113亿美元,为2020年的1.7倍。从结构上看数通市场占60%,电信市场占40%左右。

2ae89026-a622-11ee-8b88-92fbcf53809c.png

AI算力场景光模块应用情况

首先我们以英伟达的SuperPOD为例测算单颗GPU与光模块的比例。测算仅考虑IB网络对应的光模块需求。以140个节点的集群为例,每台举例服务器需要8颗GPU芯片,共需140×8=1120颗芯片;集群中每20台服务器组成一个SU(scalable units,可扩展单元),共7个SU。IB网络架构下实现了完整的胖树(Fat-Tree)拓扑结构,胖树架构在训练场景中最优的配置是上下行端口数一样,即无阻塞的网络,具体来看:

第一层:每个SU 中配置8台叶交换机,共有56台叶交换机;

第二层:每10台脊交换机组成一个交换机组Spine Group( SG),每个SU 的第一个叶交换机连接到SG1中的每个交换机,每个SU的第二个叶交换机连接到SG2中的每个交换机,共有80个脊交换机;

第三层:每14台核心交换机组成一个交换机组Core Group(CG),对应共28个核心交换机。

使用系统的对应计算侧和存储侧线缆全部采用AOC有源光缆,因此每个端口对应一个光模块,即每条光缆对应2个光模块,因此计算侧和存储侧共需要(1120+1124+1120)×2+(280+92+288)×2=8048个光模块,即单颗GPU对应所需200G光模块数量约为1:7.2

DGX GH200超级计算机搭载256个超级芯片,每个超级芯片可视为一个服务器,通过交换机进行互联。从结构上来看,超级计算机采用两层的胖树拓扑结构,第一、二层分别使用96个、36个交换机,每台交换机拥有32个速率为800G的端口;此外超级计算机还配备了24个IB交换机用于IB网络。按照端口进行估算,L1层距离较近因此假定使用铜缆进行连接不涉及光模块,L2层36个交换机在无收敛胖树架构下,第二层交换机端口向下与L1层交换机上行端口互联,因此共需要36×32×2=1152个800G光模块;IB网络架构下,24台交换机需要24×32=768个800G光模块;则DGX GH200超级计算机共需要1152+768=1920个800G光模块,对应每颗芯片12个800G光模块。则GPT-3单日完成训练需要8万颗以上200G光模块,如果考虑到FLOPS的利用率约为20%-30%,则需要光模块的数量将约为35万颗。

易飞扬应用于算力场景的光模块

AI发展促进了海量光模块需求,易飞扬则已于2023年完成800G/400G AI应用光模块产线建设任务,新建成的生产线主要用于4×100G PAM4和8×100G PAM4光模块和有源光缆的生产。

2b17d886-a622-11ee-8b88-92fbcf53809c.png

2b297ae6-a622-11ee-8b88-92fbcf53809c.png

得益于供应链的支持,易飞扬的系列AI光模块量产顺利,公司本身的产品多样化设计能力、订单能力和供应链能力形成了较好的匹配关系。可以为中小客户提供灵活有效的需求交付和样品测试。







审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 交换机
    +关注

    关注

    20

    文章

    2615

    浏览量

    99180
  • 光模块
    +关注

    关注

    76

    文章

    1234

    浏览量

    58860
  • GPU芯片
    +关注

    关注

    1

    文章

    303

    浏览量

    5773
  • ChatGPT
    +关注

    关注

    29

    文章

    1547

    浏览量

    7431

原文标题:AI算力应用中的光模块产品

文章出处:【微信号:gigalight_yifeiyang,微信公众号:易飞扬通信】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    企业AI租赁是什么

    企业AI租赁是指企业通过互联网向专业的提供商租用所需的计算资源,以满足其AI应用的需求。
    的头像 发表于 11-14 09:30 96次阅读

    青云科技强化AI架构,升级产品与服务体系

    10月9日,青云科技正式揭晓了其升级版的产品与服务阵容、行业及场景定制化解决方案,以及全新的生态战略。该公司旨在通过AI平台、AI
    的头像 发表于 10-10 16:42 414次阅读

    九章云极DataCanvas公司「包」产品璀璨亮相2024大会!

    九章云极DataCanvas公司技术专家向与会者详细介绍包的产品能力和创新模式,收获行业伙伴的高度认可。力作为AI时代的数字能源,将在
    的头像 发表于 09-29 14:44 719次阅读
    九章云极DataCanvas公司「<b class='flag-5'>算</b><b class='flag-5'>力</b>包」<b class='flag-5'>产品</b>璀璨亮相2024<b class='flag-5'>中</b>国<b class='flag-5'>算</b><b class='flag-5'>力</b>大会!

    大模型时代的需求

    现在AI已进入大模型时代,各企业都争相部署大模型,但如何保证大模型的,以及相关的稳定性和性能,是个极为重要的问题,带着这个极为重要的问题,我需要在此书中找到答案。
    发表于 08-20 09:04

    力系列基础篇——与计算机性能:解锁超能力的神秘力量!

    在《力系列基础篇——101:从零开始了解,相信各位粉丝初步了解到人工智能的“发动机
    的头像 发表于 07-11 08:04 104次阅读
    <b class='flag-5'>算</b>力系列基础篇——<b class='flag-5'>算</b><b class='flag-5'>力</b>与计算机性能:解锁超能力的神秘力量!

    DPU技术赋能下AI基础设施

    4月19日,在以“重构世界 奔赴未来”为主题的2024国生成式AI大会上,中科驭数作为DPU新型基础设施代表,受邀出席了中国智中心创
    的头像 发表于 04-20 11:31 797次阅读

    随着AI需求不断增强,800G模块的需求不断增大

    在人工智能芯片(AIGC)和不断发展的背景模块产业正在迎来快速发展的时期。随着
    的头像 发表于 04-11 10:54 559次阅读
    随着<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>需求不断增强,800G<b class='flag-5'>光</b><b class='flag-5'>模块</b>的需求不断增大

    AI的需求推动模块行业快速迭代

    近期,由OpenAI发布的人工智能文生视频大模型Sora再次引起了不小的轰动,继ChatGPT之后,Sora的推出让AIGC(生成式人工智能)再度成为行业焦点,AI大模型的快速迭代升级对网络架构提出了更高要求,推动模块
    的头像 发表于 04-10 14:07 306次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>的需求推动<b class='flag-5'>光</b><b class='flag-5'>模块</b>行业快速迭代

    简史,是段波澜壮阔的历史

    今天这篇文章,我将给大家详细介绍一下人类的演进过程。这是段波澜壮阔的历史,值得我们驻足与回忆。Chrent人工
    的头像 发表于 04-04 08:26 612次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>简史,是<b class='flag-5'>一</b>段波澜壮阔的历史

    认识一下NI SWITCH模块的组成和特点

    许多自动化测试应用都需要通过部署个开关网络来实现仪器仪表和DUT之间的信号路由。而开关不仅可用于路由信号,也是增加昂贵仪器仪表的通道数以及提高测量灵活性和可重复性的种低成本方法。
    的头像 发表于 03-22 13:41 1416次阅读
    <b class='flag-5'>认识一下</b>NI SWITCH<b class='flag-5'>模块</b>的组成和特点

    图看懂星河AI数据中心网络,全面释放AI时代

    华为中国合作伙伴大会 | 图看懂星河AI数据中心网络,以网强,全面释放AI时代
    的头像 发表于 03-22 10:28 698次阅读
    <b class='flag-5'>一</b>图看懂星河<b class='flag-5'>AI</b>数据中心网络,全面释放<b class='flag-5'>AI</b>时代<b class='flag-5'>算</b><b class='flag-5'>力</b>

    立足,聚焦AI!顺网科技全面走进AI时代

    “立足,聚焦AI”,顺网科技进军AI时代的号角已被吹响。 1月18日,顺网科技(300113.SZ)以“跃迁·向未来”为主题的战略升
    的头像 发表于 01-19 10:57 437次阅读
    立足<b class='flag-5'>算</b><b class='flag-5'>力</b>,聚焦<b class='flag-5'>AI</b>!顺网科技全面走进<b class='flag-5'>AI</b>智<b class='flag-5'>算</b>时代

    卫星通信序幕拉开,AI浪潮澎湃

    AI浪潮催生要求,基础设施需求持续提升。AIGC带来的超大需求拉动通信基础设施建设及扩容,
    发表于 01-03 10:22 351次阅读
    卫星通信序幕拉开,<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>浪潮澎湃

    AI应用模块产品

    以ChatGPT为代表的AI大模型应用普及将推动需求快速增长,服务器产业链是其中重要的受益环节之AI计算的普及将推动服务器产业链
    的头像 发表于 01-02 15:32 486次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>应用<b class='flag-5'>中</b>的<b class='flag-5'>光</b><b class='flag-5'>模块</b><b class='flag-5'>产品</b>

    人工智能热潮涌带动模块快速发展

    人工智能点燃需求,带动模块产品更新迭代。受益AI
    发表于 11-30 09:58 579次阅读
    人工智能热潮涌带动<b class='flag-5'>光</b><b class='flag-5'>模块</b>快速发展