0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

ChatGPT不止带火了GPU,也盘活了网络芯片

Leland 来源:电子发烧友网原创 作者:周凯扬 2023-03-13 09:13 次阅读
电子发烧友网报道(文/周凯扬)2022年下半年,服务器市场受到了经济下行的波及,也开始放慢了增长速率。不少人认为进入2023年后,数据中心这几年享受的红利期也即将迎来终结。但随着ChatGPT及同类型应用的风靡,服务器市场再度激活了新一轮的军备竞赛。

直接受益者自然是与算力挂钩最为紧密的GPU厂商,无论是英伟达还是AMD,从开年以来股价就经历了一轮猛涨。CPUAI加速器、FPGA厂商也顺势得利。不过要说在云服务厂商纷纷疯狂下单下,还有哪些硬件厂商从中分了一杯羹,那肯定少不了网络芯片厂商。

高性能网络也是生成式AI的硬需求

在Meta、谷歌、亚马逊这些Hyperscaler厂商的眼里,他们已经明白ChatGPT这类生成式AI并非昙花一现,而是可以投入到现有产品中去并产生附加价值的爆款应用。不过在他们现如今的AI集群中,不少都是和传统的x86 CPU集群独立的,所以他们要想建立新的互联交换网络满足需求,就必须要购置新的基础设施硬件。

所以搭建高性能数据中心网络就成了他们发力的重点之一,需求指标包括无损耗、低时延和高扩展性等。像亚马逊、谷歌这样已经开始自研高速网络芯片的大厂还好,而没有这方面技术积累的云服务厂商和企业就只能去购买第三方方案,诸如大带宽交换机/路由器、DPU等。

网络芯片厂商从中受益

正因如此,像博通、瑞昱之类的网络芯片厂商也都从这股AI热中受益。近日,博通发布了2023财年第一季度的财报,该季度内博通的总营收达到了89.15亿美元,同比增长16%,净利润达37.74亿美元,同比增长53%,其中半导体解决方案业务贡献了71.07亿美元的营收,同比增长了21%。
Tomahawk5以太网交换机芯片/ 博通

虽然其中一部分营收来自无线消费终端,但这样的成绩还是可以看出在服务器终端市场,网络芯片的需求剧增,致使订单飞涨。博通表示,在2022年内,单是用于AI的以太网交换机产品营收就超过2亿美元,而他们预计在2023年这个数值将达到8亿美元,可见博通的Tomahawk以太网交换机芯片卖得有多好。

与此同时,博通用于计算卸载的产品,也因为生成式AI的爆火而大卖,例如Stingray系列SmartNIC。博通去年在该类业务上的营收已经超过20亿美元,且今年的预计营收将超过30亿美元。另外就是无损数据中心以太网架构,博通也像华为等厂商一样,开始在新一代无损低时延的以太网架构上加大投入,且对数据与计算密集型的AI负载进行了优化设计。

小结

相对其他服务器硬件产品来说,网络芯片的市场韧性确实要更高一些,而且总能顺应局势迎来一波增长。加之如今的以太网交换机芯片、SmartNIC和DPU都处于飞速创新的阶段,相信即便在AI计算量逐年倍增的情况下,数据中心网络也不会出现类似其他硬件一样的性能瓶颈。
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4700

    浏览量

    128673
  • 博通
    +关注

    关注

    35

    文章

    4319

    浏览量

    106783
  • 网络芯片
    +关注

    关注

    0

    文章

    30

    浏览量

    12087
收藏 人收藏

    评论

    相关推荐

    如何构建及优化GPU网络

    并从计算节点成本优化、集群网络与拓扑的选择等方面论述如何构建及优化GPU网络
    的头像 发表于 11-06 16:03 236次阅读
    如何构建及优化<b class='flag-5'>GPU</b>云<b class='flag-5'>网络</b>

    GPU服务器AI网络架构设计

    众所周知,在大型模型训练中,通常采用每台服务器配备多个GPU的集群架构。在上一篇文章《高性能GPU服务器AI网络架构(上篇)》中,我们对GPU网络
    的头像 发表于 11-05 16:20 177次阅读
    <b class='flag-5'>GPU</b>服务器AI<b class='flag-5'>网络</b>架构设计

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架构分析」阅读体验】--了解算力芯片GPU

    本篇阅读学习第七、八章,了解GPU架构演进及CPGPU存储体系与线程管理 █从图形到计算的GPU架构演进 GPU图像计算发展 ●从三角形开始的几何阶段 在现代图形渲染中,三角形是最常用的基本图形元素
    发表于 11-03 12:55

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架构分析」阅读体验】--全书概览

    GPU、NPU,给我们剖析了算力芯片的微架构。书中有对芯片方案商处理器的讲解,理论联系实际,使读者能更好理解算力芯片。 全书共11章,由浅入深,较系统全面进行讲解。下面目录对全书
    发表于 10-15 22:08

    神经网络芯片和普通芯片区别

    处理神经网络算法的芯片。它通过模拟人脑神经元的工作方式,实现了对大量数据的并行处理和快速学习。 普通芯片,又称通用芯片,是指可以执行各种计算任务的
    的头像 发表于 07-04 09:30 893次阅读

    使用espbox lite进行chatgpt_demo的烧录报错是什么原因?

    我使用espbox lite进行chatgpt_demo的烧录 我的idf是v5.1release版本的,espbox是master版本的 在编译时似乎没有什么问题 在烧录时报错 请问这是什么原因
    发表于 06-11 08:45

    OpenAI 深夜抛出王炸 “ChatGPT- 4o”, “她” 来了

    当地时间5月13日OpenAI推出ChatGPT-4o,代表了人工智能向前迈出的一大步。在GPT-4turbo的强大基础上,这种迭代拥有显著的改进。在发布会的演示中,OpenAI展示该模型的高级
    发表于 05-27 15:43

    AI训练,为什么需要GPU

    随着由ChatGPT引发的人工智能热潮,GPU成为了AI大模型训练平台的基石,甚至是决定性的算力底座。为什么GPU能力压CPU,成为炙手可热的主角呢?要回答这个问题,首先需要了解当前人工智能(AI
    的头像 发表于 04-24 08:05 1075次阅读
    AI训练,为什么需要<b class='flag-5'>GPU</b>?

    GPU/TPU集群网络组网间的连接方式

    用于连接 GPU 服务器中的 8 个 GPU 的 NVLink 交换机可以用于构建连接 GPU 服务器之间的交换网络。Nvidia 在 2
    发表于 04-16 11:43 700次阅读
    <b class='flag-5'>GPU</b>/TPU集群<b class='flag-5'>网络</b>组网间的连接方式

    【Longan Pi 3H 开发板试用连载体验】给ChatGPT装上眼睛,还可以语音对话

    个位置: 由于我没有HDMI显示器和键盘,因此无法像官方WIKI那样使用桌面系统。因此首次开机我需要用无头方式配置无线网络。具体操作我们下期在评论区中再见。
    发表于 04-12 12:41

    在FPGA设计中是否可以应用ChatGPT生成想要的程序呢

    当下AI人工智能崛起,很多开发领域都可看到ChatGPT的身影,FPGA设计中,是否可以用ChatGPT辅助设计呢?
    发表于 03-28 23:41

    FPGA在深度学习应用中或将取代GPU

    硬件公司供货的不断增加,GPU 在深度学习中的市场需求还催生了大量公共云服务,这些服务为深度学习项目提供强大的 GPU 虚拟机。 但是显卡受硬件和环境的限制。Larzul 解释说:“神经
    发表于 03-21 15:19

    【国产FPGA+OMAPL138开发板体验】(原创)6.FPGA连接ChatGPT 4

    的复杂系统,然后将其映射到FPGA上运行。FPGA通常与CPU、GPU等并行处理单元一起工作,通过网络接口与后端服务器通信。然而,如果编写一个FPGA配置以模拟与ChatGPT4 API通信的过程
    发表于 02-14 21:58

    芯科技,解密ChatGPT畅聊之算力芯片

    GPU服务器,尤其是英伟达的A100 GPU,提供了强大而精确的计算能力。ChatGPT的功能远超日常对话,它能够学习、理解并生成人类般的文本,是人工智能领域的一个重要突破。但其真正力量的源泉,是背后那些不断工作的算力
    的头像 发表于 12-27 07:45 925次阅读
    芯科技,解密<b class='flag-5'>ChatGPT</b>畅聊之算力<b class='flag-5'>芯片</b>

    ChatGPT原理 ChatGPT模型训练 chatgpt注册流程相关简介

    ChatGPT注册没有外国手机号验证怎么办? ChatGPT作为近期火爆网络的AI项目,受到了前所未有的关注。我们可以与AI机器人实时聊天,获得问题的答案。但受ChatGPT服务器及相
    的头像 发表于 12-06 16:28 841次阅读
    <b class='flag-5'>ChatGPT</b>原理 <b class='flag-5'>ChatGPT</b>模型训练 <b class='flag-5'>chatgpt</b>注册流程相关简介