0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA全新AI以太网络平台大幅提升AI云性能

丽台科技 来源:NVIDIA英伟达企业解决方案 2023-11-27 14:31 次阅读

NVIDIA 近日宣布,三家头部系统制造商将率先在其服务器产品阵容中集成专为 AI 量身定制的 NVIDIA Spectrum-X 以太网络技术,帮助企业客户加速生成式 AI 业务。

Spectrum-X 专为生成式 AI 量身定制,为企业提供了一种全新的以太网络,相较传统以太网方案,其 AI 通信网络性能提高了 1.6 倍。

这三家头部系统制造商的新系统,整合了 Spectrum-X 与 NVIDIA Tensor Core GPU、NVIDIA AI Enterprise 软件和 NVIDIA AI Workbench 软件,为企业通过生成式 AI 来实现业务转型奠定了基础。

NVIDIA 创始人兼首席执行官黄仁勋表示:“生成式 AI 和加速计算正在推动新一代的业务转型,企业需要升级其数据中心来满足新型业务的需求。加速网络就是 NVIDIA 的头部服务器制造商合作伙伴推出新一代系统的催化剂,加快他们迈向生成式 AI 新时代。”

专门用于加速 AI 的网络

为实现 AI 业务的出色效率,Spectrum-X 集性能优异的 Spectrum-4 以太网交换机、NVIDIA BlueField-3 SuperNIC(一款可以大幅提升超大规模 AI 业务性能的新型网络加速器)以及多种加速软件于一体。领先的基础设施计算平台 —— NVIDIA BlueField-3 DPU 就属于 Spectrum-X 的一部分。

Spectrum-4 是专门面向 AI 的 51Tb/sec 以太网交换机,可在大规模、满负荷的场景下提供较高的数据吞吐量,同时在 AI 云业务的多租户场景下将网络拥塞降低,其智能的、基于微调的路由技术可以保障网络基础设施的利用率。

BlueField-3 SuperNIC 专为网络密集型的大规模并行计算而设计,可在 GPU 服务器之间提供高达 400Gb/s 的 RDMA(RoCE - RDMA over Converged Ethernet)网络连接,大幅提升了集群内部基于东西网络流量的 AI 训练和推理性能,还能实现多租户数据中心环境的安全隔离,确保租户业务的可预测性和性能隔离。BlueField-3 SuperNIC 基于低功耗、半高半长的 PCIe 规格设计,是企业级服务器的理想选择。

NVIDIA 加速软件包括 Cumulus Linux、SONiC 和 NetQ 三者组成的性能优异的 Spectrum-X 软件开发套件,以及作为 BlueField 核心的 NVIDIA DOCA 软件框架。

NVIDIA AI Enterprise 为安全、稳定和已经支持的生产级 AI 业务提供了框架、预训练模型和开发工具。NVIDIA AI Workbench 使开发者能够在 PC 或工作站上快速创建、测试和自定义预训练生成式 AI 模型,然后将其扩展至几乎任何数据中心或云。

搭载 Spectrum-X 的 NVIDIA 超级计算机

NVIDIA 自己的一台超级计算机就在使用 Spectrum-X,这也是新一代 AI 系统的参考架构。该超级计算机由 NVIDIA 与戴尔科技联合开发,使用了基于 8 卡 NVIDIA Hopper GPU 的 HGX 平台和 BlueField-3 DPU 及 SuperNIC 的 Dell PowerEdge XE9680 服务器,并通过 Spectrum-4 交换机组成了集群系统。






审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 以太网
    +关注

    关注

    40

    文章

    5460

    浏览量

    172551
  • NVIDIA
    +关注

    关注

    14

    文章

    5075

    浏览量

    103620
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4768

    浏览量

    129297
  • 交换机
    +关注

    关注

    21

    文章

    2656

    浏览量

    100082
  • RDMA
    +关注

    关注

    0

    文章

    78

    浏览量

    8973

原文标题:NVIDIA 全新 AI 以太网络平台大幅提升 AI 云性能

文章出处:【微信号:Leadtek,微信公众号:丽台科技】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    NVIDIA发布全新NIM AI Guardrail微服务

    ,致力于提升生成式AI应用的安全性、精准度和可扩展性。 这些微服务以NeMo Guardrails为核心进行编排,充分利用了NVIDIA NeMo平台
    的头像 发表于 01-18 11:48 407次阅读

    NVIDIA 发布保障代理式 AI 应用安全的 NIM 微服务

    的“知识机器人”,提升全球数十亿知识工作者的生产力。为了开发 AI 智能体,企业需要解决信任、物理安全、网络安全以及合规性等关键问题。 全新 NVI
    发表于 01-17 16:29 68次阅读

    以太网速率对网络性能的影响

    以太网作为最广泛使用的局域网技术之一,其速率的提高对网络性能有着直接的影响。从最初的10Mbps发展到今天的100Gbps甚至更高,以太网速率的提升
    的头像 发表于 11-08 09:11 497次阅读

    NVIDIA SuperNIC推进现代AI基础设施发展

    在生成式 AI 时代,加速网络对于为大规模分布式 AI 工作负载构建高性能计算平台至关重要。NVIDIA
    的头像 发表于 11-06 13:59 295次阅读

    使用全新NVIDIA AI Blueprint开发视觉AI智能体

    为提高生产力、优化流程和创造更加安全的空间,埃森哲、戴尔科技和联想等公司正在使用全新 NVIDIA AI Blueprint 开发视觉 AI 智能体。
    的头像 发表于 11-06 13:58 502次阅读

    NVIDIA助力xAI打造全球最大AI超级计算机

    以太网网络平台,该平台是专为多租户、超大规模的 AI 工厂提供卓越性能而设计的 RDMA(Remote Direct Memory Acc
    的头像 发表于 10-30 11:38 433次阅读

    NVIDIA 以太网加速 xAI 构建的全球最大 AI 超级计算机

    市的 Colossus 超级计算机集群达到了 10 万颗 NVIDIA® Hopper  GPU 的巨大规模。该集群使用了 NVIDIA Spectrum-X™ 以太网网络平台,该
    发表于 10-30 09:33 176次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>以太网</b>加速 xAI 构建的全球最大 <b class='flag-5'>AI</b> 超级计算机

    简单认识NVIDIA网络平台

    NVIDIA Spectrum-X800 平台是业界第一代 800Gb/s 的以太网网络平台,包括了 NVIDIA Spectrum SN5
    的头像 发表于 09-09 09:22 490次阅读

    应用NVIDIA Spectrum-X网络构建新型主权AI

    法国服务提供商 Scaleway 正在基于 NVIDIA 的 Hopper GPU和 Spectrum-X 以太网网络平台 构建区域性 GPU 集群,为用户提供
    的头像 发表于 07-26 18:58 1232次阅读

    NVIDIA面向生成式AI打造强大的以太网网络

    NVIDIA 创始人兼首席执行官黄仁勋在 COMPUTEX 开幕前发表主题演讲,展示了 NVIDIA 最新的全栈技术平台如何通过广泛的合作伙伴网络触及终端用户和客户——无论是通过
    的头像 发表于 06-06 17:33 877次阅读

    NVIDIA推出用于支持在全新GeForce RTX AI笔记本电脑上运行的AI助手及数字人

    》中。NVIDIA 还发布专为 NVIDIA ACE 数字人平台打造的首个基于 PC 的 NVIDIA NIM 推理微服务。 这些技术由 NVIDI
    的头像 发表于 06-04 10:19 891次阅读

    NVIDIA Spectrum-X 以太网网络平台已被业界广泛使用

    平台已被业界广泛使用,并且将进一步加快新品发布计划。 Spectrum-X 是全球首款专为 AI 打造的以太网网络平台,可将生成式 AI
    的头像 发表于 06-03 18:20 1026次阅读

    NVIDIA发布专为大规模AI量身订制的全新网络交换机-X800系列

    NVIDIA Quantum-X800 InfiniBand 网络NVIDIA Spectrum™-X800 以太网络是全球首批高达 800Gb/s 端到端吞吐量的
    的头像 发表于 03-20 09:54 563次阅读

    NVIDIA 发布全新交换机,全面优化万亿参数级 GPU 计算和 AI 基础设施

    NVIDIA Quantum-X800 InfiniBand 网络,打造性能最强大的 AI 专用基础设施 NVIDIA Spectrum-X
    发表于 03-19 10:05 408次阅读
    <b class='flag-5'>NVIDIA</b> 发布<b class='flag-5'>全新</b>交换机,全面优化万亿参数级 GPU 计算和 <b class='flag-5'>AI</b> 基础设施

    基于NVIDIA DOCA 2.6实现高性能和安全的AI设计

    网络平台上快速创建应用程序和服务,并启用 NVIDIA BlueField DPU 和 NVIDIA BlueField SuperNIC 的强大功能,提供突破性的
    的头像 发表于 02-23 10:02 530次阅读