0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

博通Jericho3-AI可连接多达32,000个GPU芯片!

SSDFans 来源:SSDFans 2023-05-12 15:14 次阅读

博通公司(Broadcom Inc.)目前发布了一款名为 Jericho3-AI 的新芯片,该芯片通过网络把超级计算机连接在一起,具有AI网络的最高性能结构。

Jericho3-AI拥有一系列的先进特性,如改进的负载平衡,可以确保在最高网络负载下实现最大的网络利用率,无拥塞操作,无流量冲突和抖动,高基数使 Jericho3-AI能够连接32,000个 GPU,以及零影响故障转移——确保低于10ns 的自动路径收敛。所有这些特性都将减少AI工作负载的完成时间。

Jericho3-AI旨在减少AI训练期间花在网络上的时间。

Jericho3-AI带来的性能提升也具有成本效益,它降低了运行AI工作负载的成本。Broadcom表示,网络实际上可以自给自足。这款新芯片对其客户来说可能特别有用。Broadband目前最大的客户之一是苹果公司,双方目前有150亿美元的交易。

Broadcom高级副总裁兼总经理拉姆•维拉加(Ram Velaga)表示:“AI网络的目标是减少完成大规模AI模型的训练和推理所需的时间和精力。Jericho3-AI 与市场上其他任何替代方案相比,可以显著缩短工作完成时间。”

Jericho3-AI 是在AI无处不在的时代推出的。据国际数据公司(IDC)估计,2023年全球在AI方面的支出,包括软件、硬件和以AI为中心的系统服务,将达到1540亿美元,较2022年增长26.9%,到2026年将超过3000亿美元。

而AI平台需要巨大的计算和数据分析处理能力。

Broadcom的 Jericho3-AI 芯片将与市场领导者 Nvidia 公司的 InfiniBand 竞争,后者是另一种超级计算机网络技术。路透社采访了 Velaga,他表示,尽管 Nvidia 可能拥有世界上性能最佳的系统,但是许多公司不愿意从同一个供应商那里购买GPU和网络设备。

Velaga 对路透社表示:“以太网设备可以从多个供应商获得,竞争将会非常激烈。如果我们不推出最好的以太网交换机,其他公司就会推出。而InfiniBand 是一种专有的、单源的、垂直集成的解决方案。”

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    455

    文章

    50712

    浏览量

    423109
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4729

    浏览量

    128886
  • AI
    AI
    +关注

    关注

    87

    文章

    30728

    浏览量

    268871

原文标题:博通 Jericho3-AI 可连接多达32,000个GPU芯片!

文章出处:【微信号:SSDFans,微信公众号:SSDFans】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    GPU是如何训练AI大模型的

    AI模型的训练过程中,大量的计算工作集中在矩阵乘法、向量加法和激活函数等运算上。这些运算正是GPU所擅长的。接下来,AI部落小编带您了解GPU是如何训练
    的头像 发表于 12-19 17:54 70次阅读

    2026年亮相!苹果正与通合作研发AI芯片

    。 而知情人士透露,这款AI服务器芯片当中的网络技术部分,将与通合作完成,通也因此大涨超6%。 这是AI处理的关键环节。如果开发成功,这
    的头像 发表于 12-13 09:43 97次阅读

    《算力芯片 高性能 CPUGPUNPU 微架构分析》第3篇阅读心得:GPU革命:从图形引擎到AI加速器的蜕变

    CPU、GPU的演进历程,AI专用芯片或将引领未来计算平台的新方向。正如爱因斯坦所说:\"想象力比知识更重要\" —— 在芯片设计领域,创新思维带来的突破往往令人惊叹。
    发表于 11-24 17:12

    谈谈GPU的使用寿命

    上文结合论文谈一谈,三年寿命的GPU [上]说到,电路腐蚀导致橡树岭实验室的GPU寿命只有3年,更换了11,000GPU
    的头像 发表于 11-01 10:27 244次阅读
    谈谈<b class='flag-5'>GPU</b>的使用寿命

    AI芯片的混合精度计算与灵活扩展

    电子发烧友网报道(文/李弯弯)当前,AI技术和应用蓬勃发展,其中离不开AI芯片的支持。AI芯片是一
    的头像 发表于 08-23 00:08 4791次阅读

    3D DRAM内嵌AI芯片AI计算性能暴增

    电子发烧友网报道(文/黄晶晶)尽管当前AI训练主要采用GPU+HBM的方案,不过一些新的技术仍然希望进一步打破存储数据传输带来的瓶颈问题。最近,NEO半导体宣布开发其3D X-AI
    的头像 发表于 08-16 00:08 3191次阅读
    <b class='flag-5'>3</b>D DRAM内嵌<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>,<b class='flag-5'>AI</b>计算性能暴增

    ITEC推出ADAT3 XF TwinRevolve倒装芯片贴片机

    近日,ITEC 推出了 ADAT3 XF TwinRevolve 倒装芯片贴片机,其运行速度比现有机器快五倍,每小时完成多达 60,000
    的头像 发表于 05-30 10:34 573次阅读

    进一步解读英伟达 Blackwell 架构、NVlink及GB200 超级芯片

    NVIDIA NVLink Switch系统和铜电缆盒密集连接GPU,优化并行模型效率,液冷设计进一步降低能耗。全新的第五代NVLink在单个域中连接
    发表于 05-13 17:16

    预测2024年NVIDIA将继续领跑AI GPU市场

    据彭社近日发布的预测报告指出,预计到2024年,英伟达公司将在人工智能(AIGPU市场上持续领先,销售额预计将高达400亿美元(相当于约2904亿元人民币)。
    的头像 发表于 04-28 10:15 591次阅读

    AI训练,为什么需要GPU

    随着由ChatGPT引发的人工智能热潮,GPU成为了AI大模型训练平台的基石,甚至是决定性的算力底座。为什么GPU能力压CPU,成为炙手可热的主角呢?要回答这个问题,首先需要了解当前人工智能(
    的头像 发表于 04-24 08:05 1075次阅读
    <b class='flag-5'>AI</b>训练,为什么需要<b class='flag-5'>GPU</b>?

    GPU/TPU集群网络组网间的连接方式

    用于连接 GPU 服务器中的 8 GPU 的 NVLink 交换机也可以用于构建连接 GPU
    发表于 04-16 11:43 778次阅读
    <b class='flag-5'>GPU</b>/TPU集群网络组网间的<b class='flag-5'>连接</b>方式

    FPGA在深度学习应用中或将取代GPU

    业可行性方面考虑,自动驾驶汽车等应用可能需要多达 7-10 GPU(其中大多数会在不到四年的时间内失效),对于大多数购车者来说,智能或自动驾驶汽车的成本将变得不切实际。” 机器人、医疗保健和安全
    发表于 03-21 15:19

    Cerebras发布WSE-3 AI芯片,性能翻倍达4万亿晶体,能耗不变

    该款 WSE-3 AI芯片几乎完全由一块12英寸晶圆构成,形如边长21.5厘米之正方体。这款芯片设有90万
    的头像 发表于 03-18 16:37 908次阅读

    英伟达B100 GPU架构披露,B200或配备288GB显存

    XpeaGPU透露,B100 GPU将配备两枚基于此技术的芯片,与此同时,还将连通多达8HBM3e显存堆栈,总容量高达192GB。AMD同
    的头像 发表于 03-18 14:16 1309次阅读

    苹果m3芯片系列有哪些 m3芯片与a16芯片的区别

    GPU;M3 Pro则在M3的基础上提速,配置有12核CPU和18核GPU;而M3 Max的性能则更为强大,拥有16核CPU和
    的头像 发表于 03-12 17:07 2007次阅读