(文章来源:cnBeta)
随着人工智能和机器学习应用的兴起,研究者对于深度学习和训练的计算量需求也日渐提升。为满足这种密集的运算需求,通常需要相当大规模的服务器集群。在今年早些时候的 Hot Chips 大会上,我们已经见到过来自英特尔的 Nervana NNP-T Spring Crest 芯片。通过收购 Nervana,英特尔获得了打造“大型训练芯片”所需的 IP 。
据悉,该芯片基于台积电 16nm 工艺制造,辅以 CoWoS 和四层 HBM2 内存,面积达到了 680 平方毫米。本周早些时候,Supermicro 已经在超算大会上展示了最新的 Nervana NNP-T 服务器。
这些硬件均基于 PCIe 扩展卡,可想象它们此前被设计为可容纳 GPU 的传统服务器。其采用了典型 2P 布局,可在 4U 机箱中插入 8 张扩展卡,且计算卡之间可以互相通信。每颗芯片具有 3.58 Tbps 的总双向带宽,而片外连接则支持多达 1024 个节点的可伸缩性。从每张 PCIe 卡片的 8-pin 辅助供电来看,其峰值功率应该在标准的 225W 。
本周晚些时候,Supermicro 告知其已获准展示该系列服务器的 8 路 OAM(OCP 加速器模块)版本。其能够通过底板的 PCB 保持芯片间的通信,而不是传统的 PCIe 卡对卡之类的桥接器。
这使得扩展卡之间能够流通大量的空气来散热,并且兼容模块化的 OCP 标准。作为英特尔首款支持 bfloat16 深度学习训练的芯片,每个芯片最多支持 119 个 TOP 。另有 60MB 片上存储器和 24 个专用的“张量”处理器集群,后者具有双 32×32 矩阵乘法阵列。该芯片共有 270 亿个晶体管,内核频率 1.1 GHz、辅以 32GB HBM2-2400 内存。
从技术上来讲,PCIe 连接可以升级到 Gen 4.0 x16,但英特尔商务 CPU 支持这项特性。有人表示,为展开此类计算,一些客户正在将头结点从 2P 升级到 4P(Facebook 更是用上了 8P)。Supermicro 声明称,其 NNP-T 系统已做好助推深度学习和训练的部署准备。
(责任编辑:fqj)
-
芯片
+关注
关注
456文章
50967浏览量
424920 -
英特尔
+关注
关注
61文章
9985浏览量
171971
发布评论请先 登录
相关推荐
评论