0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

COMPUTEX2023 | NVIDIA 推出面向超大规模生成式 AI 的加速以太网平台

NVIDIA英伟达企业解决方案 来源:未知 2023-05-30 01:40 次阅读

全新的 NVIDIA Spectrum-X 网络平台集 NVIDIA Spectrum-4、BlueField-3 DPU 和加速软件于一身;全球头部云服务提供商采用该平台来横向扩展其生成式 AI 服务

COMPUTEX—2023 年 5 月 29 日NVIDIA 于今日宣布推出 NVIDIA Spectrum-X 网络平台,该平台是一个加速网络平台,致力于提高基于以太网 AI 云的性能与效率。

NVIDIA Spectrum-X 是基于网络创新的新成果而构建 —— 将 NVIDIA Spectrum-4 以太网交换机NVIDIA BlueField-3 DPU 紧密结合,取得了 1.7 倍的整体 AI 性能和能效提升,同时可在多租户环境中提供一致、可预测的性能。Spectrum-X 还提供 NVIDIA 加速软件和软件开发套件(SDK),使开发人员能够构建软件定义的云原生 AI 应用。

这种端到端的功能交付,可以减少基于 transformer 的大规模生成式 AI 模型的运行时间,助力网络工程师、AI 数据科学家和云服务商及时取得更好的结果,并更快做出明智的决策。

全球头部超大规模云服务商正在采用 NVIDIA Spectrum-X,包括领先的云创新企业。

作为 NVIDIA Spectrum-X 参考设计的蓝图和测试平台,NVIDIA 正在构建一台超大规模生成式 AI 超级计算机,命名为 Israel-1。它将被部署在 NVIDIA 以色列数据中心,由基于 NVIDIA HGX 平台的戴尔 PowerEdge XE9680 服务器、BlueField-3 DPU 和 Spectrum-4 交换机等打造而成。

NVIDIA 网络高级副总裁 Gilad Shainer 表示:“诸如生成式 AI 等革命性技术正在推动各家企业提升数据中心性能的极限,从而获得更多竞争优势。作为新一代以太网络,NVIDIA Spectrum-X 为新一代 AI 工作负载扫清障碍,将会彻底改变整个行业。”

NVIDIA Spectrum-X 网络平台具有高度的通用性,可用于各种 AI 应用。它采用完全标准的以太网,与现有以太网的堆栈实现互通。

该平台起步于 Spectrum-4,这是全球首款专为 AI 网络打造的 51Tb/s 以太网交换机。先进的 RoCE 扩展功能可以跨 Spectrum-4 交换机、BlueField-3 DPU 和 NVIDIA LinkX 光纤相互协同,共同构建了一个专为 AI 云优化的端到端 400GbE 网络。

NVIDIA Spectrum-X 通过性能隔离增强了多租户环境,确保租户的 AI 工作负载能以最佳性能持续运行。NVIDIA Spectrum-X 还提供了更好的 AI 性能可见性,它可以识别性能瓶颈,而且具有全自动网络验证功能。

驱动 Spectrum-X 的加速软件包括 Cumulus Linux、纯 SONiC 和 NetQ 等性能强大的 NVIDIA SDK,共同助力该网络平台实现极致性能。另外,Spectrum-X 还包括 BlueField DPU 的核心软件—— NVIDIA DOCA 软件框架。

NVIDIA Spectrum-X 单台交换机即可实现突破性的 256 个 200Gb/s 端口的连接,使用两层叶脊拓扑可以连接 16,000 个端口,以支持 AI 云的增长和扩展,同时保持极高的性能和极低的网络延时。

生态采用情况

提供 NVIDIA Spectrum-X 方案的公司包括戴尔科技、联想和超微。

供货情况

NVIDIA Spectrum-X、Spectrum-4 交换机、BlueField-3 DPU 和 400G LinkX 光纤现已上市。

聆听 COMPUTEX 主题演讲,进一步了解 NVIDIA Spectrum-X。

47a3be26-fe47-11ed-90ce-dac502259ad0.png

点击 “阅读原文”,或扫描下方海报二维码,观看 NVIDIA 创始人兼 CEO 黄仁勋为 COMPUTEX 2023 带来的主题演讲直播回放,了解 AI、图形及其他领域的最新进展!


原文标题:COMPUTEX2023 | NVIDIA 推出面向超大规模生成式 AI 的加速以太网平台

文章出处:【微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英伟达
    +关注

    关注

    22

    文章

    3743

    浏览量

    90825

原文标题:COMPUTEX2023 | NVIDIA 推出面向超大规模生成式 AI 的加速以太网平台

文章出处:【微信号:NVIDIA-Enterprise,微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    NVIDIA SuperNIC推进现代AI基础设施发展

    生成 AI 时代,加速网络对于为大规模分布 AI
    的头像 发表于 11-06 13:59 184次阅读

    NVIDIA助力xAI打造全球最大AI超级计算机

    以太网网络平台,该平台是专为多租户、超大规模AI 工厂提供卓越性能而设计的 RDMA(Remote Direct Memory Acc
    的头像 发表于 10-30 11:38 285次阅读

    NVIDIA 以太网加速 xAI 构建的全球最大 AI 超级计算机

    市的 Colossus 超级计算机集群达到了 10 万颗 NVIDIA® Hopper  GPU 的巨大规模。该集群使用了 NVIDIA Spectrum-X™ 以太网网络
    发表于 10-30 09:33 120次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>以太网</b><b class='flag-5'>加速</b> xAI 构建的全球最大 <b class='flag-5'>AI</b> 超级计算机

    Supermicro推出面向AI数据中心的液冷超级集群

    Supermicro, Inc.,作为人工智能(AI)、云端、存储和5G/Edge领域的整体IT解决方案提供商,近日宣布推出面向人工智能数据中心的液冷超级集群。该集群由英伟达GB200 NVL72和英伟达HGX B200系统提供支持,开创了高能效
    的头像 发表于 10-22 17:37 431次阅读

    Zettabyte与纬创携手打造台湾首个超大规模AI数据中心

    在推动亚太地区AI计算领域迈向新纪元的征程中,Zettabyte与纬创资通(Wistron Corporation)携手宣布了一项重大合作——共同建设台湾地区首个超大规模AI数据中心,这一里程碑
    的头像 发表于 09-05 16:26 342次阅读

    燧原科技与清程极智携手共创AI未来:共筑超大规模智算集群新篇章

    协议,双方将携手步入全新的合作阶段,共同探索并开发面向超万亿参数大模型和超大规模集群的高性能系统软件方案,标志着双方在推动AI技术边界、加速产业智能化进程上迈出了坚实的一步。
    的头像 发表于 07-05 14:50 706次阅读

    HPE 携手 NVIDIA 推出 NVIDIA AI Computing by HPE,加速生成 AI 变革

    by HPE 包含了可持续的加速计算产品组合以及全生命周期服务,将简化 AI 创造价值的过程,加速生成
    的头像 发表于 06-21 14:39 326次阅读

    NVIDIA推出NVIDIA AI Computing by HPE加速生成 AI 变革

    简化 AI 创造价值的过程,加速生成 AI 的发展步伐。 NVIDIA
    的头像 发表于 06-20 17:36 676次阅读

    NVIDIA面向生成AI打造强大的以太网网络

    NVIDIA 创始人兼首席执行官黄仁勋在 COMPUTEX 开幕前发表主题演讲,展示了 NVIDIA 最新的全栈技术平台如何通过广泛的合作伙伴网络触及终端用户和客户——无论是通过
    的头像 发表于 06-06 17:33 812次阅读

    NVIDIA宣布全面推出 NVIDIA ACE 生成 AI 微服务

    采用 NVIDIA 宣布全面推出 NVIDIA ACE 生成 AI 微服务,以
    的头像 发表于 06-04 10:18 616次阅读

    NVIDIA Spectrum-X 以太网网络平台已被业界广泛使用

    网络平台已被业界广泛使用,并且将进一步加快新品发布计划。 Spectrum-X 是全球首款专为 AI 打造的以太网网络平台,可将生成
    的头像 发表于 06-03 18:20 928次阅读

    NVIDIA发布数字人微服务,为制作生成AI数字化身铺平未来之路

        COMPUTEX—2024年6月2日— NVIDIA宣布全面推出NVIDIA ACE生成
    发表于 06-03 17:43 171次阅读

    晶晟微纳发布N800超大规模AI算力芯片测试探针卡

    近日,上海韬盛科技旗下的苏州晶晟微纳宣布推出其最新研发的N800超大规模AI算力芯片测试探针卡。这款高性能探针卡采用了前沿的嵌入合金纳米堆叠技术,旨在满足当前
    的头像 发表于 03-04 13:59 919次阅读

    亚马逊云科技全面发力生成AI 2023 re:Invent中国行开启

    客户加速创新。亚马逊云科技全面发力生成AI推出面向企业级生成
    的头像 发表于 12-12 16:13 569次阅读

    NVIDIA全新AI以太网平台大幅提升AI云性能

    NVIDIA 近日宣布,三家头部系统制造商将率先在其服务器产品阵容中集成专为 AI 量身定制的 NVIDIA Spectrum-X™ 以太网络技术,帮助企业客户
    的头像 发表于 11-27 14:31 769次阅读