0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI芯片、光模块和光芯片的发展趋势

智能计算芯世界 来源:智能计算芯世界 2023-12-29 10:07 次阅读

根据 OpenAI 官网,AI 模型训练计算量自 2012 年起每 3.4 个月就增长一倍。以 GPT-3 模型为例,根据 lambdalabs 数据,该模型参数规模达 1750 亿,完整训练运算量达3640PFlop/s-days(以 3640PFlop/s 速度进行运算,需要 3640 天)。模型完成单次训练约需要 355 个 CPU 年并耗费 460 万美元(假设采用 Nvidia Tesla V100 芯片)。

高算力需求迫切,推动AI基础设施建设。高训练算力需要与相应基础设施匹配,根据《2022—2023中国人工智能算力发展评估报告》预计,2023 年全球 AI 支出增速有望达 27.9%,而中国智能算力规模将达 427EFlop/s,同比增长 59%。

AI 芯片:算力核心构成,自主可控推动国产化

人工智能芯片是 AI 算力的核心构成。目前主流的 AI 芯片中 GPU 占据绝对百分比,根据IDC 数据,2022 年 GPU 在中国人工智能芯片市场中占有率为 89%。根据我们测算,假设国内每日访问单个语言大模型的人数达到 3 亿的情况下,对 GPU 需求台数为 13889 块。

Nvidia H100 是目前最先进的人工智能芯片。2023 年 3 月 22 日 Nvidia 推出新款人工智能芯片 GPU H100,与公司上一代产品 A100 相比性能得到大幅提升,在主流 AI 和 HPC模型中,采用 InfiniBand 互连技术的 H100 性能最高可达 A100 的 30 倍。

9ff4262a-a5df-11ee-8b88-92fbcf53809c.png

国产AI芯片短板明显,下一代产品推进顺利。通过对国内寒武纪、华为昇腾和沐曦等国产公司旗下的 AI 旗舰芯片与 Nvidia H100 SXM 的性能指标对比,可以看到国产 AI 芯片与 Nvidia H100 在性能上仍存在较大差距。同时国产芯片公司仍在加快研发推进下一代 AI芯片产品,并有望在未来对标Nvidia H100,如寒武纪在研的思元590、沐曦在研的MXC500等。

a0061196-a5df-11ee-8b88-92fbcf53809c.png

美国对 AI 芯片出口管制,自主可控要求下国产芯片需求迫切。2022 年 10 月 7 日美国商务部工业安全局(BIS)发布《美国商务部对中华人民共和国(PRC)关于先进计算和半导体实施新的出口管制制造》细则,其中管制物项 3A090、4A090 包含高性能 AI 芯片产品,而Nvidia A100 和 H100 均符合管制要求。在此背景下,Nvidia 推出性能阉割的中国特供版芯片 A800 和 H800。我们认为在国内自主可控大背景下,国内 AI 产业对国产芯片需求迫切,或加大对国产芯片公司支持力度,国产 AI 芯片有望迎来技术进步和市场机遇。

a0217454-a5df-11ee-8b88-92fbcf53809c.png

光模块:新型网络架构对高端光模块用量增加

高算力需要与高效传输架构相匹配。AI 大模型通常由多个服务器作为节点,并通过高速网络架构组成集群合作完成模型训练。因此在模型中东西向流量(数据中心服务器间的传输流量)大幅增加,而模型训练过程中南北向流量(客户端与服务器间的传输流量)较少,由于叶脊网络架构相较传统三层架构更适用于东西向流量传输,成为现代数据中心主流网络架构。

a036ea32-a5df-11ee-8b88-92fbcf53809c.png

叶脊网络架构大幅增加对光模块数量需求。由于叶脊网络架构中东西向流量大,因此服务器与交换机相连均需使用光模块,从而大幅增加对光模块数量需求。同时 AI 大模型的高流量对带宽提出更高要求,800G 光模块相较 200G/400G 光模块具有高带宽、功耗低等优点,有望在 AI 大模型网络架构中渗透率提升。

a04acd72-a5df-11ee-8b88-92fbcf53809c.png

以 Nvidia DGX H100 网络架构为例。该架构适配 Nvidia H100 GPU,采用叶脊网络架构,分为 1-4 个 SU 单元类型(8 个 GPU 组成一个 H100 服务器节点,32 个服务器节点组成一个 SU 单元)。其中 4-SU 单元架构由 127 个服务器节点组成(其中一个节点用于安装 UFM 网络遥测装置),具有 1016 个 H100 GPU、32 个叶交换机、16 个脊交换机。

以 Nvidia DGX H100 架构为例测算 GPU 与光模块的对应数量。在 4-SU 的 Nvidia DGX H100 架构中,每 32 台服务器节点组成一个 SU 单元,并与 8 台叶交换机相连,因此服务器节点与叶交换机之间共有 1024 个连接(32×8×4);32 台叶交换机需分别与 16 台脊交换机相连,因此叶交换机与脊交换机之间共有 512 个连接(32×16);

在 Nvidia DGX H100 的目前方案中,脊-叶连接采用 800G 光模块,需要 1024 个 800G 光模块;叶-服务器连接中,每个服务器节点通过一个 800G 光模块与两台叶交换机向上连接,需要 512 个 800G 光模块(128×4),同时每台叶交换机通过一个 400G 光模块与一个服务器节点连接,需要 1024 个 400G 光模块(128×8)。

国产光模块厂商在 2022 年全球光模块企业 TOP10 排名中占据 7 席。TOP10 中国内企业为中际旭创(Innolight)、华为(Huawei)、光迅科技(Accelink)、海信(Hisense)、新易盛(Eoptolink)、华工正源(HGG)、索尔思光电(已被华西股份收购)。而在高端光模块领域,中际旭创已在 2022 年实现 800G 光模块批量出货。光芯片:光模块核心部件,国产化空间开阔

通信是指通过电光转换以光信号为介质的传输系统。光通信系统的传输过程中首先发射端(TOSA)通过激光器芯片将电信号转换为光信号,经过光纤传输至接收端(ROSA),接收端通过探测器芯片将光信号转换为电信号,最终实现信号传输。

a05ab9da-a5df-11ee-8b88-92fbcf53809c.png

光芯片是决定光通信系统信号传输效率和网络可靠性的关键。光芯片是实现光电信号转换的基础元件,按照功能可以分为激光器芯片(LD)和探测器芯片(PD)。按细分型号分:激光器芯片可分为 VCSEL、FP、DFB 和 EML;探测器芯片可分为 PIN 和 APD。

a079624a-a5df-11ee-8b88-92fbcf53809c.png

高端光芯片市场国产化率仍有待提高。目前在 10G 及以下光芯片市场中,源杰科技等国内公司已占据较高市场份额(部分高技术难度领域如 10G VCSEL/EML 激光器芯片市场国产化率低于 40%),但在 25G 及以上光芯片市场,市场份额仍大多由Ⅱ-Ⅳ、Lumentum 和Broadcom 等国外公司占据。伴随国内光模块企业在全球市场中占据主导地位,出于保供的安全考虑,或为国内光芯片企业在高端领域发展迎来新机遇。

审核编辑:汤梓红

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4754

    浏览量

    129080
  • 光模块
    +关注

    关注

    77

    文章

    1271

    浏览量

    59087
  • 光芯片
    +关注

    关注

    3

    文章

    95

    浏览量

    10916
  • AI芯片
    +关注

    关注

    17

    文章

    1894

    浏览量

    35105

原文标题:算力竞赛,开启AI芯片、光模块和光芯片需求

文章出处:【微信号:AI_Architect,微信公众号:智能计算芯世界】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    模块技术发展趋势 模块常见故障及解决方法

    模块技术发展趋势 模块技术是光纤通信系统中的关键组件,随着网络带宽需求的不断增长,
    的头像 发表于 12-02 14:39 429次阅读

    未来AI大模型的发展趋势

    未来AI大模型的发展趋势将呈现多元化和深入化的特点,以下是对其发展趋势的分析: 一、技术驱动与创新 算法与架构优化 : 随着Transformer架构的广泛应用,AI大模型在特征提取和
    的头像 发表于 10-23 15:06 672次阅读

    “三高一降”伏储能系统趋势及其模拟芯片解决方案

    的应用和解决方案对于提升系统效率、降低成本以及增强可靠性至关重要。本文将简要介绍储系统的基本运作原理,以及储系统在高压化发展趋势下,模拟芯片的机会及纳芯微解决方案。
    的头像 发表于 08-13 13:09 2379次阅读
    “三高一降”<b class='flag-5'>光</b>伏储能系统<b class='flag-5'>趋势</b>及其模拟<b class='flag-5'>芯片</b>解决方案

    储系统的基本运作原理和发展趋势

    的应用和解决方案对于提升系统效率、降低成本以及增强可靠性至关重要。本文将简要介绍储系统的基本运作原理,以及储系统在高压化发展趋势下,模拟芯片的机会及纳芯微解决方案。
    的头像 发表于 07-18 14:31 1188次阅读
    <b class='flag-5'>光</b>储系统的基本运作原理和<b class='flag-5'>发展趋势</b>

    芯片与传统芯片的区别

    材料差异: 硅芯片主要使用硅作为材料,而传统芯片则使用硅晶体。硅芯片利用硅的光学特性,而传统芯片
    的头像 发表于 07-12 09:33 7278次阅读

    百亿模块市场!芯片加速国产化,国内厂商深挖高速芯片潜力

    电子发烧友网报道(文/莫婷婷)当前,国内大模型市场开始进入应用落地阶段,AI应用的快速发展推动模块需求的释放,上游的
    的头像 发表于 05-25 00:57 5027次阅读
    百亿<b class='flag-5'>光</b><b class='flag-5'>模块</b>市场!<b class='flag-5'>光</b><b class='flag-5'>芯片</b>加速国产化,国内厂商深挖高速<b class='flag-5'>光</b><b class='flag-5'>芯片</b>潜力

    芯片与电芯片:如何共舞于封装之巅?

    随着科技的飞速发展芯片与电芯片的共封装技术已成为当今电子领域研究的热点。这种技术融合了光学与电子学的优势,为实现更高速、更稳定的数据传输提供了可能。本文将详细介绍
    的头像 发表于 05-22 09:59 1735次阅读
    <b class='flag-5'>光</b><b class='flag-5'>芯片</b>与电<b class='flag-5'>芯片</b>:如何共舞于封装之巅?

    什么是SFP模块?如何选择SFP模块

    本文介绍了SFP模块的概述、技术原理、外观组成、选择方法、未来趋势及常见问答。SFP模块是小型化、支持热插拔的
    的头像 发表于 05-06 11:43 2278次阅读

    高速发展趋势与应用前景

    高速耦是一种能够在高速数据传输中完成光电信号转换的器件,具有快速响应、高频带宽和低功耗的特点,被广泛应用于通信、数据中心、医疗和工业等领域。随着数字化和网络化的不断深入,高速耦的需求日益增长,其发展趋势备受关注。
    的头像 发表于 04-19 16:55 482次阅读

    DC电源模块发展趋势和前景展望

    BOSHIDA  DC电源模块发展趋势和前景展望 随着电子产品的普及和多样化,对电源模块的需求也越来越大。其中,DC电源模块作为一种重要的电源供应方式,在各个领域有着广泛的应用。在过
    的头像 发表于 04-18 13:37 545次阅读
    DC电源<b class='flag-5'>模块</b>的<b class='flag-5'>发展趋势</b>和前景展望

    随着AI算力需求不断增强,800G模块的需求不断增大

    2024年,硅方案将逐渐在400G和800G模块的需求中占据市场份额,而1.6T时代也将逐年提升。这将为模块厂家带来技术更新的机遇,需
    的头像 发表于 04-11 10:54 628次阅读
    随着<b class='flag-5'>AI</b>算力需求不断增强,800G<b class='flag-5'>光</b><b class='flag-5'>模块</b>的需求不断增大

    算力竞赛,开启AI芯片模块芯片需求

    的中央处理器(CPU)相比,AI芯片在处理大规模数据和复杂算法时具有更高的计算速度和能效比。因此,AI芯片已成为推动人工智能技术快速发展的关
    的头像 发表于 03-20 14:41 553次阅读

    中国网络交换芯片市场发展趋势

    中国网络交换芯片市场的发展趋势受多种因素影响,包括技术进步、政策推动、市场需求以及全球产业链的变化等。以下是对该市场发展趋势的一些分析。
    的头像 发表于 03-18 14:02 913次阅读

    科技启动高带宽存储芯片生产 为英伟达最新AI芯片提供支持

    英伟达下一代H200图形处理器将采用美HBM3E芯片,预计于今年第2季交付,有望超越现有的H100芯片,为美科技贡献更高业绩。此外,龙头厂商SK海力士等供应的
    的头像 发表于 02-27 09:33 719次阅读

    国产隔离芯片的质量控制与发展趋势

    本文将从结构、制造工艺、测试手段等方面对国产隔离芯片的质量控制进行分析,并展望其未来的发展趋势
    的头像 发表于 02-02 16:14 1002次阅读
    国产隔离<b class='flag-5'>芯片</b>的质量控制与<b class='flag-5'>发展趋势</b>