拳打TPU，脚踢英特尔，亚马逊自研CPU和AI云芯片曝光 - 全文

关键词： CPU , AI云芯片 , Graviton , Inferentia

　　文/文强、张干、大明
　　来源：新智元（ID：AI_era）

　　【新智元导读】本周，亚马逊推出首款自研Arm架构云服务器CPU Graviton和首款云端AI推理芯片AWS Inferentia，拳打TPU，脚踢英特尔，力图走一条自己的云端芯一体化路线，未来云计算市场将迎巨变！
　　亚马逊出手了，一出手就是两颗炸弹！
　　本周一，亚马逊推出首款自研Arm架构云服务器CPU Graviton，目标直指英特尔；
　　昨天，亚马逊又推出了首款云端AI推理芯片AWS Inferentia，目标是杀伤微软Azure、谷歌云等一批对手，并让中小玩家无牌可打。
　　亚马逊力图走一条自己的云端芯一体化路线，似乎没有给其他人留出可趁之机。
　　未来云计算的市场，将迎来巨变！
　　亚马逊自研Arm架构数据中心CPU，成本最低降45%
　　据The Register报道，本周公布的亚马逊AWS定制版Graviton——支持AWS的A1EC2实例的多核Arm处理器，处理器性能几乎与AMD的基于Arm的芯片相当，这些虚拟机现在可在美国和欧洲使用。

6 天前 上传

下载附件 (31.71 KB)

Graviton：亚马逊基于Arm架构的CPU
　　关于Graviton的性能参数，目前能了解到的是：CPU内核基于Arm 2015年的Cortex-A72设计，主频为2.3GHz，为64位Armv8-A、非NUMA处理器，具备浮点数学计算、SIMD、AES，SHA-1、SHA-256、GCM和CRC-32算法的硬件加速功能。
　　片上系统使用Arm的数据中心优化型Neoverse技术和Annapurna的内部设计。 16个vCPU实例排列在4个四核集群中，每个集群有2MB的共享L2缓存，每个核有32KB的L1数据缓存和48KB的L1指令缓存。一个vCPU对应一个物理核心。

6 天前 上传

下载附件 (20.56 KB)

　　亚马逊一位发言人表示：“AWS Graviton处理器是由AWS定制设计的新处理器系列，设计中融入了亚马逊为大规模云应用程序构建平台方案上的广泛专业知识。”
　　据亚马逊全球基础设施和客户服务VP Peter DeSantis所说，使用新的芯片能让AWS虚拟机特定工作负载的价格再降低45%。
　　亚马逊云首款AI芯片问世，降低推理成本75%
　　在亚马逊美国拉斯维加斯大会上，昨天还放出另一个炸弹——首款云端AI芯片AWS Inferentia。

6 天前 上传

下载附件 (14.13 KB)

　　AWS Inferentia是一款机器学习推理芯片，支持TensorFlow、Apache MXNet和PyTorch深度学习框架，以及使用ONNX格式的模型。

6 天前 上传

下载附件 (24.19 KB)

　　使用经过训练的机器学习模型进行预测可以驱动应用程序高达90%的计算成本。开发人员可以将GPU支持的推理加速附加到Amazon EC2和Amazon SageMaker实例中，从而将推理成本降低75%。
　　根据官网介绍，每个Inferentia芯片提供高达几百TOPS的算力，使复杂的模型能够做出快速的预测。多个AWS Inferentia芯片可以一起使用来驱动，形成成千上万的TOPS算力。
　　这款芯片将于2019年底上市，AWS用户可以通过Amazon SageMaker、Amazon EC2等一起使用 Inferentia的算力。
　　云计算巨头自己造芯：摆脱束缚、降低成本、打击对手
　　Graviton的问世显示出亚马逊AWS摆脱英特尔的决心。
　　目前，英特尔拥有全球数据中心计算几乎全部市场份额，英特尔的服务器芯片价格居高不下，而且有供应短缺的风险。
　　为了摆脱这种束缚，越来越多互联网巨头们正考虑使用Arm，OpenPower，RISC-V和AMD Epyc产品，定制自己的芯片，全球云计算巨头（包括微软，谷歌，Facebook，亚马逊，百度等） 都在寻找替代芯片供应商。
　　早在2015年左右，亚马逊与AMD合作开发64位Arm服务器处理器，用于亚马逊的数据中心。AMD还在2016年就推出了与亚马逊合作的Arm芯片，代号“西雅图”的Opteron A1100处理器。
　　不过，AMD未能达到亚马逊的性能标准，于是亚马逊退出了与AMD的合作，收购了Arm授权许可持有者和片上系统设计企业Annapurna Labs，让收购后的团队开始设计物联网网关及其Nitro芯片组，负责处理托管EC2虚拟机的亚马逊服务器的网络和存储任务。
　　今天的高端Arm CPU的应用范围，远远超出了智能手机，还能够运行桌面端和轻型服务器上的应用程序。Graviton的问世就是Annapurna Labs的成果。
　　而AWS Inferentia的问世则是打击对手的思路。
　　第三季度，亚马逊有一半利润来自AWS云服务，AWS业务在第三季度的营业利润率为31％，这是四年多以来的最高水平。
　　市场份额也印证了AWS的业绩。根据Synergy Research的数据，亚马逊的AWS控制着34%的云基础设施服务市场。微软以15%的市场份额位居第二，其次是IBM（第三）和谷歌（第四），市场份额均为个位数。

6 天前 上传

下载附件 (27.41 KB)

　　形势一片大好。
　　但是，AWS的对手也突飞猛进。微软Azure云计算同比增长76％，而Alphabet早在今年2月就宣称，基于2017年的公开数据，谷歌云平台是“全球增长最快的主要公有云提供商”。
　　谷歌云也在最近迎来大调整：现任CEO将在明年1月离职，接替她的是在甲骨文有20年工作经验的云计算市场老手，紧紧盯住AWS的份额。
　　Inferentia芯片的推出，就是AWS应对这种局面的杀手级武器，主要能够降低成本。
　　至此，主要云计算公司中，AWS、谷歌云、阿里云、华为云都布局了AI芯片。
　　5000亿美元市场厮杀：智能云市场重量级玩家全部整装待发
　　亚马逊的Inferentia芯片和Graviton让人想起了华为发布升腾系列，这是科技巨头要走一条自己的云端芯一体化路线。
　　亚马逊要做的跟华为类似，所不同的是，亚马逊的芯片已经做出来了。亚马逊也将成为首个在数据中心基础设施采用基于Arm架构CPU的大厂。
　　回头再看亚马逊全球基础设施和客户服务VP Peter DeSantis所说的“使用新的芯片能让AWS虚拟机特定工作负载的价格再降低45%”。
　　这个数字不可小觑。
　　亚马逊AWS本已经是云计算市场毋庸置疑的王者，现今低价格加上客户层铺开，或将筑建起令其他竞争对手者难以逾越的高墙——众所皆知，低成本与大规模形成飞轮效应，智能云计算是一个赢者通吃的市场。
　　发布会上还有一点值得注意，那就是亚马逊云的完全托管端到端机器学习服务AWS SageMaker，将采用陈天奇团队的TVM 作为自动优化深度学习模型的框架编译器，后端支持ARM、英特尔和英伟达的硬件。

6 天前 上传

下载附件 (41.64 KB)

　　还记得英特尔的野心吗？随着各种框架（前端）和各种硬件（后端）的兴起，大家想做更多的优化，业界出现了框架编译器这个“中间表示”（IR）之争。英特尔想把自家的框架编译器 nGRAPH 打造成 IR 的标准。现在亚马逊直接支持 TVM，对即将于2019年年底发布新品的英特尔来说，无疑构成了另一个层面上的打击。
　　国内云计算市场的No.1阿里云日前升级为阿里云智能平台，由阿里CTO 张建锋兼任阿里云智能事业群总裁，目标是构建数字经济时代面向全社会基于云计算的智能化技术基础设施。这一举措，呼应腾讯新成立的云与智慧产业事业群，以及更早些时候从二级部门升级为一级部门的华为云。
　　至此，全球云计算市场的几大主要玩家已经全部整装待发，谁将主宰价值5000亿美元的智能云计算市场？
　　厮杀时间已到，请开始表演。
　　参考资料：
　　https://www.theregister.co.uk/20 ... aws_graviton_specs/