0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

SC23 | NVIDIA 为全球领先的 AI 计算平台 Hopper 再添新动力

NVIDIA英伟达 来源:未知 2023-11-14 20:05 次阅读

世界顶级服务器制造商和云服务提供商即将推出 HGX H200 系统与云实例。

wKgZomVTY5mAcojKAABaAoslYoA860.jpg

11月13日,NVIDIA 宣布推出 NVIDIA HGX H200,为 Hopper 这一全球领先的 AI 计算平台再添新动力。

NVIDIA H200 是首款采用 HBM3e 的 GPU,其运行更快、更大的显存容量将进一步加速生成式 AI 与大语言模型,同时推进用于 HPC 工作负载的科学计算。凭借 HBM3e,NVIDIA H200 能够提供传输速度达 4.8 TB /秒的 141GB 显存。与上一代架构的 NVIDIA A100 相比,其容量几乎翻了一倍,带宽也增加了 2.4 倍。

全球领先的服务器制造商和云服务提供商预计于 2024 年第二季度开始提供搭载 H200 的系统。

NVIDIA 超大规模和高性能计算副总裁 Ian Buck 表示:“想要通过生成式 AI 和 HPC 应用创造智能,就必须使用大型、快速的 GPU 显存来高速、高效地处理海量数据。借助 NVIDIA H200,业界领先的端到端 AI 超级计算平台的速度将会变得更快,一些世界上最重要的挑战,都可以被解决。”

持续创新,持续的性能飞跃

与前代架构相比,NVIDIA Hopper架构实现了前所未有的性能跃升,而 H100 持续的软件升级,包括最近发布的 NVIDIA TensorRT-LLM 等强大的开源库,都在不断提升其性能标准。

H200 的推出将带来进一步的性能飞跃,比如在一个 700 亿参数的 LLM —— Llama 2 上的推理速度比 H100 提高了近一倍。随着未来软件的持续升级,H200 有望实现更大的性能优势与提升。

NVIDIA H200 的规格

NVIDIA H200 将提供四路和八路 NVIDIA HGX H200 服务器主板可选,其与 HGX H100 系统的硬件和软件都兼容。同时还可用于今年 8 月发布的采用 HBM3e 的 NVIDIA GH200 Grace Hopper 超级芯片。这些配置使 H200 可以部署在各类数据中心,包括本地、云、混合云和边缘。

NVIDIA NVLinkNVSwitch 高速互连技术的加持下,HGX H200 可为各种应用工作负载提供最高的性能,包括针对 1750 亿参数以上超大模型的 LLM 训练和推理。

八路 HGX H200 可提供超过 32 PetaFLOPS 的 FP8 深度学习计算能力和 1.1TB 的聚合高带宽内存容量,能够为生成式 AI 和 HPC 应用带来强劲性能。

当 H200 与采用超高速 NVLink-C2C 互连技术的 NVIDIA Grace CPU 搭配使用时,就组成了带有 HBM3e 的 GH200 Grace Hopper 超级芯片——专为大型 HPC 和 AI 应用而设计的计算模块。

使用 NVIDIA 全栈式软件加速 AI

NVIDIA 加速计算平台具备强大软件工具支持,能够助力开发者和企业构建并加速从 AI 到 HPC 的生产就绪型应用,包括适用于语音、推荐系统和超大规模推理等工作负载的 NVIDIA AI Enterprise 软件套件。

供应情况

NVIDIA H200 将于 2024 年第二季度开始通过全球系统制造商和云服务提供商提供。

GTC 2024 将于 2024 年 3 月 18 至 21 日在美国加州圣何塞会议中心举行,线上大会也将同期开放。点击“阅读原文”扫描下方海报二维码,立即注册 GTC 大会


原文标题:SC23 | NVIDIA 为全球领先的 AI 计算平台 Hopper 再添新动力

文章出处:【微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英伟达
    +关注

    关注

    22

    文章

    3771

    浏览量

    90991

原文标题:SC23 | NVIDIA 为全球领先的 AI 计算平台 Hopper 再添新动力

文章出处:【微信号:NVIDIA_China,微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    NVIDIA RTX和AI技术STEM学习增添动力

    NVIDIA GPU 驱动的 AI 正在加速几乎全行业的发展,这使得对熟练使用该技术的毕业生(特别是 STEM 相关领域的毕业生)的需求大增。全球数百万学生正在参与大学 STEM 计划,以获得
    的头像 发表于 11-20 09:23 284次阅读
    <b class='flag-5'>NVIDIA</b> RTX和<b class='flag-5'>AI</b>技术<b class='flag-5'>为</b>STEM学习增添<b class='flag-5'>动力</b>

    软银升级人工智能计算平台,安装4000颗英伟达Hopper GPU

    软银公司宣布,其正在扩展的日本顶级人工智能计算平台已安装了约4000颗英伟达Hopper GPU。这一举措显著提升了平台计算能力。据悉,该
    的头像 发表于 11-04 16:18 430次阅读

    NVIDIA助力xAI打造全球最大AI超级计算

    NVIDIA 宣布,xAI 位于田纳西州孟菲斯市的Colossus 超级计算机集群达到了 10 万颗 NVIDIA Hopper GPU 的巨大规模。该集群使用了
    的头像 发表于 10-30 11:38 358次阅读

    NVIDIA Colossus超级计算机集群突破10万颗Hopper GPU

    NVIDIA近日宣布,其位于田纳西州孟菲斯市的xAI Colossus超级计算机集群规模已壮大至10万颗NVIDIA Hopper GPU。这一里程碑式的成就,再次彰显了
    的头像 发表于 10-30 10:29 296次阅读

    NVIDIA 以太网加速 xAI 构建的全球最大 AI 超级计算

    市的 Colossus 超级计算机集群达到了 10 万颗 NVIDIA® Hopper  GPU 的巨大规模。该集群使用了 NVIDIA Spectrum-X™ 以太网网络
    发表于 10-30 09:33 142次阅读
    <b class='flag-5'>NVIDIA</b> 以太网加速 xAI 构建的<b class='flag-5'>全球</b>最大 <b class='flag-5'>AI</b> 超级<b class='flag-5'>计算</b>机

    NVIDIA AI芯片Blackwell推迟发布引热议,公司强调Hopper需求强劲

    据8月5日最新消息,NVIDIA新款AI芯片Blackwell因被曝存在设计缺陷而推迟发布的消息,迅速在业界引发了广泛讨论与关注。面对这一市场传闻,NVIDIA官方迅速作出回应,强调其旗舰产品
    的头像 发表于 08-05 15:05 561次阅读

    NVIDIA 通过 Holoscan NVIDIA IGX 提供企业软件支持

    美敦力、SETI 协会以及领先制造商正在构建 NVIDIA IGX 系统, AI 在工业边缘赋能。   NVIDIA 于6月2日宣布,集成
    的头像 发表于 06-04 10:21 497次阅读

    NVIDIA 通过 Holoscan NVIDIA IGX 提供企业软件支持,实现边缘实时医疗、工业和科学 AI 应用

    美敦力、SETI协会以及领先的制造商正在构建  NVIDIA IGX 系统,  AI 在工业边缘赋能     COMPUTEX — 2024 年 6 月 2 日 —
    发表于 06-03 09:48 303次阅读
      <b class='flag-5'>NVIDIA</b> 通过 Holoscan <b class='flag-5'>为</b> <b class='flag-5'>NVIDIA</b> IGX 提供企业软件支持,实现边缘实时医疗、工业和科学 <b class='flag-5'>AI</b> 应用

    计算机行业携手 NVIDIA 新工业革命打造 AI 工厂和数据中心

    领先计算机制造商推出一系列 Blackwell 赋能的系统,搭载 Grace CPU、NVIDIA 网络和基础设施 丰富的产品组合覆盖云、专用系统、嵌入式和边缘 AI 系统等 产品配
    发表于 06-03 09:14 231次阅读
    <b class='flag-5'>计算</b>机行业携手 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>为</b>新工业革命打造 <b class='flag-5'>AI</b> 工厂和数据中心

    NVIDIA AI Enterprise荣获金奖

    NVIDIA AI Enterprise、GH200 Grace Hopper 超级芯片和 Spectrum-X 在 COMPUTEX 2024 获得认可。
    的头像 发表于 05-29 09:27 445次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Enterprise荣获金奖

    NVIDIA Grace Hopper点亮AI超级计算新时代

    瑞士 Alps、法国 EXA1-HE 等超级计算机将使用高能效的、基于 Grace 的系统气候和天气、科学探索等领域提供 200 EFLOPS AI 算力,以支持突破性研究。
    的头像 发表于 05-15 09:46 363次阅读

    NVIDIA通过CUDA-Q平台全球各地的量子计算中心提供加速

    德国、日本和波兰的超级计算机利用 Grace-Hopper 和量子-经典加速超算平台推进量子计算研究。
    的头像 发表于 05-14 09:15 347次阅读

    NVIDIA 通过 CUDA-Q 平台全球各地的量子计算中心提供加速

    —— NVIDIA 于今日宣布将通过开源的 NVIDIA CUDA-Q™ 量子计算平台,助力全球各地的国家级超算中心加快量子
    发表于 05-13 15:21 195次阅读
    <b class='flag-5'>NVIDIA</b> 通过 CUDA-Q <b class='flag-5'>平台</b><b class='flag-5'>为</b><b class='flag-5'>全球</b>各地的量子<b class='flag-5'>计算</b>中心提供加速

    研华与英伟达深化合作, 成为NVIDIA AI Enterprise软件全球分销商

    )的软件平台。近日发布的NVIDIA AI Enterprise 5.0将为用户提供一系列微服务,其中包括NVIDIA NIM。这是一套用于对二十多种流行的
    发表于 05-07 11:21 349次阅读
    研华与英伟达深化合作, 成为<b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Enterprise软件<b class='flag-5'>全球</b>分销商

    新加坡电信Singtel和NVIDIAAI平台引入东南亚

    新加坡领先的服务提供商选择 NVIDIA AI 平台其区域客户提供生成式 AI
    的头像 发表于 02-25 11:02 875次阅读