0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

业界唯一内置AI的数据中心CPU来了

机器人创新生态 来源:芯东西 作者:心缘 2021-04-13 11:34 次阅读

业界唯一内置AI的数据中心CPU来了。4月6日,英特尔在北京首钢园推出第三代至强可扩展处理器(代号Ice Lake),最多支持40核,进一步强化AI性能和安全性,在主流数据中心工作负载上性能平均提升46%。英特尔还将该新品的AI性能与AMD竞品及NVIDIA A100 GPU做了对比。2021年第一季度,这款芯片已出货超过20万颗,主流云服务提供商均计划今年提供基于Ice Lake的服务,在超过50家独立OxM合作伙伴中赢得了超过250个订单。

同时,英特尔宣布推出傲腾持久内存200系列、傲腾固态盘SSD P5800X、NAND固态盘SSD D5-P5316,以及英特尔以太网800系列适配器和全新的英特尔Agilex FPGA,并展示了整体解决方案,以及英特尔产品组合自身独具的优势。

01.第三代至强可扩展处理器:10nm、最多40核、AI推理性能猛增

自2013年以来,英特尔已在云端部署超过10亿个至强处理器核心,有超过800个云服务提供商部署了基于英特尔至强可扩展处理器的服务器。从2017年推出第一款英特尔至强可扩展处理器至今,英特尔已向全球客户交付了超过5000万颗至强可扩展处理器。

如今,采用英特尔10nm先进制程的第三代至强可扩展处理器Ice Lake终于来了,依然是业界唯一内置人工智能(AI)加速的数据中心处理器。新Ice Lake采用了新Sunny Cove核心,可额外增加20%的IPC性能,更加强调灵活性,主要服务于单路和双路服务器。加上去年发布的Cooper Lake产品系列,迄今第三代至强产品系列已能满足从单路到8路的市场需求。

其新旗舰Xeon Platinum 8380拥有40个核心,相较上一代28核Cascade Lake,其IPC性能可提升20%,平均性能可提升46%,AI推理性能可提升74%,平均性能相比已部署5年的老系统可提升2.65倍,这对于想要更新旧基础设施的客户来说是相当不错的收益。

云计算5G物联网、HPC、AI等不同应用领域,第三代至强可扩展处理器均带来超过1.5倍的代际提升。

具体来看,第三代至强可扩展处理器在AI和安全性方面的特点尤其凸显。从AI算力的增强来看,通过采用英特尔深度学习加速技术(DL Boost),其推理性能较上一代提高74%,在20种主流AI工作负载上的性能最高可达AMD EPYC 763的1.5倍、NVIDIA A100 GPU的1.3倍。

相比默认发行版,经英特尔软件优化后的新一代至强在运行TensorFlow上ResNet50的深度学习性能提高了10倍,在Scikit-learn上SVC和kNN预测的机器学习性能提高了100倍。

从安全性来看,这是英特尔第一个主流双插槽并启用SGX英特尔软件防护扩展(SGX)技术的数据中心处理器,能帮助保护敏感的代码及数据,能满足主流工作负载的需求。除了能做到应用程序隔离,该处理器还引入了英特尔全内存机密技术、英特尔平台固件弹性技术相结合,可批量加密全内存空间,防止物理攻击。即使平台的软件或硬件组件遭到入侵,依然能保护该区域内的机密信息。此外,英特尔推出了英特尔平台固件弹性技术,用于固件层的防御甚至恢复,以防止永久性的拒绝服务攻击。第三代至强可扩展处理器还内置英特尔密码操作硬件加速,能通过公钥对称加密、哈希法等很多重要的加密算法,减少普遍加密对系统性能和响应时间的影响,并为客户的敏感数据提供更高级别的保护。

数据中心计算机架构不仅需要提高吞吐量,同时也需具备最佳的响应能力,才能更好地处理数据中心普遍存在的不同类型工作负载。对此,Ice Lake采用了一个可扩展且平衡的架构,在内核架构方面进一步优化其性能,支持关键的矢量化扩展,并提升了转译后备缓冲区(TLB)和预存数据性能,以确保内存阻塞时间最少,还增加了总体共享缓存。

内存方面,该处理器每插槽最多可支持6TB系统内存,内存通道数量由6个增加到8个,进一步改善内存带宽,内存速度最高可达3200。此外,英特尔Ice Lake支持PCIe 4.0,核心之间的网状互连采用了更新的算法向核心提供IO,槽间互连传输速度提高到11.2GT/s,还通过每个IP块内的独立电源管理代理来实现更好的电源管理。通过六个技术支柱,英特尔在芯片计算、内存、IO、架构平衡方面都取得了进步,并已开发优化的底层库,用于ISV和开放源码社区合作,确保在软件优化后第三代至强可扩展处理器的性能最大化释放。为了进一步降低应用门槛,目前超过500个可立即部署的英特尔物联网行业整体解决方案和英特尔精选解决方案已搭载第三代英特尔至强可扩展处理器,帮客户提高规模化部署的效率。其中近80%的英特尔精选解决方案将在今年年底完成更新。

02.计算存储连接阵容集体上新

如果仅看新处理器的参数,英特尔的优势可能不算明显,毕竟有其他厂商的核心数已经奔着64核、128核去了。但谈及丰富的软硬件组合,当前没有一家处理器厂商比英特尔的布局更全面。具体来看英特尔产品组合的新成员,其中新一代傲腾持久内存200系列的内存带宽增加了32%,每个插槽内存容量最高可以达到6TB。

新一代傲腾固态盘P5800X被英特尔称作世界上最快的数据中心固态盘,相比上一代,其平均时延可降低40%,服务质量(QoS)提高50%,耐久性提高67%,而延迟降低到NAND固态盘的1/13。

新一代NAND固态盘D5-P5316采用了英特尔最先进的OLC NAND技术,相比硬盘能将数据访问速度提高25倍,能将客户存储空间最多减少到原来的1/20;其耐久性是上一代QLC固态盘系列的5倍。

新一代英特尔以太网适配器800系列把网络数据吞吐量提高至每个适配器200GB/s,适合高性能vRAN、NFV转发面、存储、高性能计算、云和内容交付网络等带宽密集型工作负载,能为虚拟机密度提供最多2倍的资源。

有些数据中心对灵活性和敏捷性的要求很高,对此英特尔打造了新一代Agilex FPGA。这款FPGA采用英特尔最先进的10nm SuperFin制程技术,包含从140万到270万个逻辑元件,搭配Quartus Prime软件,据称能提供比竞争对手7nm FPGA高30%的逻辑结构性能和高2倍的结构每瓦性能。

据英特尔公司副总裁兼至强处理器与存储事业部总经理Lisa Spelmam分享,从平台到边缘到云,通过整合更多产品组合,英特尔已经建立了一个价值超过10亿美元的业务,并且这一业务还在增长。英特尔还分享了与阿里云、腾讯云等云计算巨头的合作案例,在第三代至强可扩展处理器及其深度学习加速技术的支持下,阿里云视频转码性能最高可提升40%,腾讯云支撑的游戏角色创建速度比上一代提升了4.2倍。新一代至强还帮助进一步降低了总拥有成本。当英特尔新一代至强与傲腾持久内存、固态盘、以太网、PCle 4.0等平台组件,及所有软件优化工具等功能结合时,能帮助客户大幅提高性能。

03.面向数据中心,英特尔的五大竞争优势

在发布新品之余,英特尔技术专家还分享了客户为何继续购买英特尔产品的5个理由。

第一是丰富灵活的产品组合,包括数据中心处理器、傲腾持久内存、以太网适配器等在内的英特尔软硬件产品组合,可以带来极高的性能提升。第二是为客户关键工作负载提供可预测的结果和低时延。通过与竞品的参数对比可见,英特尔新一代至强可扩展处理器的本地插槽延时更短,远程插槽延时性能更优,响应速度更快。

第三是持续优化软件,英特尔有近万名工程师每天专注于更新软件堆栈,确保客户在购买至强平台多年后,仍能持续从英特尔受益。围绕工作负载加速指令集,英特尔已经构建了庞大的软件生态系统,并根据客户需求持续迭代。

第四是虚拟化计算池具有一致性,易于部署、易于管理,客户未来能方便地从第三代至强迁移到第五代至强,大幅减少迁移成本。第五是供应链和物流能力更稳定,英特尔是一家集成设备制造商(IDM),因此在向客户交付产品时,英特尔能确定什么时候交付、怎样优先排序、如何可以更好满足客户的需求,从而如期交付客户所需的产品。

04.结语:或刺激数据中心新一轮换机潮

2021年宛如英特尔新的转折之年。从英特尔新任CEO帕特·基辛格宣布IDM 2.0战略,到今日推出以第三代至强可扩展处理器为中心的一系列数据中心新品,英特尔似乎正摆脱去年因7nm延期而陷入的焦灼境地,开始向快速扩张的数据中心市场发起新一轮攻势。对于英特尔来说,AMD、Arm系处理器的强势发展显然正为其产品带来新的竞争压力。但与此同时,英特尔全技术维度提升的优势仍具有独特性,至少从现在来看,没有其他竞争对手能提供像英特尔这样全面统一的软硬件及生态布局。随着英特尔Ice Lake导入市场,以及更多来自其他品牌的处理器加入竞争,更高性能的芯片新品有望刺激企业数据中心服务器新一轮的换机潮。

原文标题:新品 | 史上最擅长AI推理的云端CPU!Q1已出货超20万颗

文章出处:【微信公众号:机器人创新生态】欢迎添加关注!文章转载请注明出处。

责任编辑:haq

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • cpu
    cpu
    +关注

    关注

    68

    文章

    10816

    浏览量

    210938
  • AI
    AI
    +关注

    关注

    87

    文章

    29922

    浏览量

    268211

原文标题:新品 | 史上最擅长AI推理的云端CPU!Q1已出货超20万颗

文章出处:【微信号:robotplaces,微信公众号:机器人创新生态】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    安森美引领数据中心能效革命

    在当今数字化转型的浪潮中,数据中心作为支撑人工智能、云计算等关键技术的基础设施,其能耗问题日益凸显。特别是随着AI计算的蓬勃发展,数据中心对电力的需求急剧增加,传统搜索引擎请求相比,AI
    的头像 发表于 08-12 11:13 436次阅读

    美光推出全新数据中心 SSD,性能业界领先

    数据中心 SSD 产品美光 9550 NVMe™ SSD,性能业界领先,同时具备卓越的 AI 工作负载性能及能效。[1] 美光 9550 SSD 集成了自有的控制器、NAND、DRAM 和固件,彰显了美光
    发表于 07-29 15:13 916次阅读

    AI时代,我们需要怎样的数据中心AI重新定义数据中心

    超过60%的中国企业计划在未来12至24个月内部署生成式人工智能。AI、模型的构建,将颠覆数据中心基础设施的建设、运维和运营。个全新的数据中心智能化时代已经拉开序幕。
    发表于 07-16 11:33 648次阅读
    <b class='flag-5'>AI</b>时代,我们需要怎样的<b class='flag-5'>数据中心</b>?<b class='flag-5'>AI</b>重新定义<b class='flag-5'>数据中心</b>

    数据中心液冷需求、技术及实际应用

    夏日炎炎,数据中心制冷技术全新升级,液冷散热,让服务器清凉夏。本文将带您起探索数据中心液冷需求、技术及实际应用。 1 数据中心液冷需求
    的头像 发表于 06-19 11:12 738次阅读
    <b class='flag-5'>数据中心</b>液冷需求、技术及实际应用

    HNS 2024:星河AI数据中心网络,赋AI时代新动能

    华为数据通信创新峰会2024在巴库隆重举办,在“星河AI数据中心网络,赋AI时代新动能”主题论坛中,华为面向中东中亚地区发布星河AI
    的头像 发表于 05-15 09:15 588次阅读
    HNS 2024:星河<b class='flag-5'>AI</b><b class='flag-5'>数据中心</b>网络,赋<b class='flag-5'>AI</b>时代新动能

    苹果正在研发全新数据中心AI芯片

    苹果正在秘密研发款全新的数据中心AI芯片,这项目在公司内部被称为“ACDC”,并且已经经过了数年的精心筹备。据华尔街日报的知情人士透露,这款芯片的设计目标是为了优化苹果
    的头像 发表于 05-08 09:40 377次阅读

    #mpo极性 #数据中心mpo

    数据中心MPO
    jf_51241005
    发布于 :2024年04月07日 10:05:13

    图看懂星河AI数据中心网络,全面释放AI时代算力

    华为中国合作伙伴大会 | 图看懂星河AI数据中心网络,以网强算,全面释放AI时代算力
    的头像 发表于 03-22 10:28 695次阅读
    <b class='flag-5'>一</b>图看懂星河<b class='flag-5'>AI</b><b class='flag-5'>数据中心</b>网络,全面释放<b class='flag-5'>AI</b>时代算力

    #mpo光纤跳线 #数据中心光纤跳线

    光纤数据中心
    jf_51241005
    发布于 :2024年03月22日 10:18:31

    纳微半导体发布最新AI数据中心电源技术路线图

    纳微氮化镓和碳化硅技术并进,下AI数据中心电源功率突破飞升 加利福尼亚州托伦斯2024年3月11日讯 — 唯一全面专注的下代功率半导体
    发表于 03-13 13:48 503次阅读
    纳微半导体发布最新<b class='flag-5'>AI</b><b class='flag-5'>数据中心</b>电源技术路线图

    #MPO预端接 #数据中心机房 #机房布线

    数据中心MPO
    jf_51241005
    发布于 :2024年03月01日 11:12:47

    #永久链路 #信道测试 #数据中心

    数据中心
    jf_51241005
    发布于 :2024年02月23日 10:17:58

    #光缆水峰 #综合布线光缆 #数据中心

    数据中心光缆
    jf_51241005
    发布于 :2024年01月15日 09:43:26

    #预端接光缆 #24芯光缆 #数据中心

    数据中心光缆
    jf_51241005
    发布于 :2023年12月08日 11:01:21

    大模型时代,数据中心将转向何方?

    数据中心大模型
    脑极体
    发布于 :2023年11月22日 09:01:41