据报道,当地时间3月19日,英伟达于GTC开发者大会上发布了以处理百亿参数AI模型为核心的新品——DGX SuperPOD,旨在助力超大规模AI训练和推理工作负载实现稳定而高效的性能输出。
据悉,新型DGX SuperPOD采用全新的高效水冷机架式设计,搭载英伟达DGX GB200系统,FP4精度下具备11.5 exaflops的人工智能超级计算力以及240 terabytes的高速内存。用户可以通过加装机架进行持续扩充。
一套DGX GB200系统内含36块英伟达GB200加速卡,其中包含36颗英伟达Grace CPU以及72颗英伟达Blackwell GPU,经由第五代英伟达NVLink技术组合成一具高性能超算。
相较于英伟达基于H100 Tensor Core GPU打造的产品,GB200加速卡在大型语言模型推理任务中的表现将有望提高最多30倍。
英伟达现有的DGX SuperPOD套装包含至少8套DGX GB200系统,通过英伟达Quantum InfiniBand技术扩容后,能够容纳数万枚GB200加速卡。
英伟达名誉主席及首席执行官黄仁勋指出,“英伟达的DGX系列人工智能超级计算机是智能化工业革命的催化剂。而此次推出的DGX SuperPOD集成了最先进的加速计算、网络和软件技术,使每一家企业、行业乃至国家均能充分利用该平台完善并发展自身的人工智能技术”。
-
人工智能
+关注
关注
1797文章
47867浏览量
240846 -
加速卡
+关注
关注
1文章
61浏览量
11005 -
英伟达
+关注
关注
22文章
3857浏览量
92150
发布评论请先 登录
相关推荐
英伟达Blackwell可支持10万亿参数模型AI训练,实时大语言模型推理
英伟达推出Flextron AI框架:赋能灵活高效的AI模型部署
英伟达首席执行官黄仁勋:AI模型推动英伟达AI芯片需求
进一步解读英伟达 Blackwell 架构、NVlink及GB200 超级芯片
英伟达宣布收购Run:ai
英伟达战略收购Run:ai,推进产品战略,整合资源至Nvidia DGX C
NVIDIA Blackwell DGX SuperPOD助力万亿级生成式AI计算
NVIDIA推出搭载GB200 Grace Blackwell超级芯片的NVIDIA DGX SuperPOD™
NVIDIA 推出 Blackwell 架构 DGX SuperPOD,适用于万亿参数级的生成式 AI 超级计算
![NVIDIA <b class='flag-5'>推出</b> Blackwell 架构 <b class='flag-5'>DGX</b> <b class='flag-5'>SuperPOD</b>,适用于万亿<b class='flag-5'>参数</b>级的生成式 <b class='flag-5'>AI</b> 超级计算](https://file1.elecfans.com/web2/M00/C4/F0/wKgZomX4_3qAZn6lAAhtRzKe9pw360.png)
评论