高通宣布了一款专用AI处理器Cloud AI 100,采用7nm工艺,性能比目前业界最先进的 AI 推理解决方案高出 10 倍以上。
昨天在旧金山举办的年度Qualcomm AI Day大会上,高通发布了三款面向智能手机、平板电脑和其他移动设备的新系统芯片。此外,更重磅的是,高通还宣布了一款专为边缘计算设计的新产品:Qualcomm Cloud AI 100。
高通Cloud AI 100采用7nm工艺,具有高度可扩展性、专为AI推理设计,将于2020年正式推出产品,样片将在今年晚些时候推出。
虽然高通尚未公开芯片性能或架构方面的细节,但它声称,Cloud AI 100的性能比目前业界最先进的AI推理解决方案高出10倍以上。
Cloud AI 100集成了一系列开发工具,包括编译器、调试器、分析器、监视器、服务、芯片调试器和数字转换器。
此外,Cloud AI 100还致力于支持领先的软件堆栈,包括ONNX、Glow和XLA,以及各种机器学习框架,包括谷歌的TensorFlow、Facebook的PyTorch、Keras、MXNet、百度的PaddlePaddle和微软的Cognitive Toolkit。
高通估计Cloud AI 100的峰值性能能达到骁龙855和骁龙820的的3至50倍。
高通声称,与传统的现场可编程门阵列(FPGA)相比,Cloud AI 100在推断任务方面的平均速度要快10倍左右。此外,以高性能芯片常用的一个性能指标——每秒tera操作(TOPs)来衡量的话,Cloud AI 100的运算速度可以“远远超过”100 TOPs。(相比之下,骁龙855最快只有约7 TOPs。)
高通设想通过基于台积电7nm节点构建的Qualcomm Cloud AI 100,为5G提供更低的延迟,并为云和边缘带来更高的性能和效率。
“FPGA或GPU通常可以更有效地进行AI推理处理……因为GPU是更并行的,而CPU是更串行的,并行芯片更适合AI处理。”高通产品管理高级副总裁Keith Kressin解释说:“不过,GPU更多的是为图形设计的,如果你从头开始设计一个芯片来加速AI,可以得到显著的改进。从CPU到FPGA或GPU都有数量级的改进。但定制AI加速器能提供再一个数量级的改进。”
挑战华为、英特尔等,AI推理芯片竞争激烈
在高通进军云计算之前,其主要竞争对手华为发布了据称是业界性能最高的基于Arm的处理器“鲲鹏920”。在SPECint(一个由12个程序组成的基准测试套件,用于测试整数性能)中,该芯片的得分超过了930分,比行业基准高出近25%,而功耗比“行业现有厂商提供的”低30%。
华为不是高通唯一的对手。
今年1月在拉斯维加斯举行的消费电子展上,英特尔详细介绍了即将推出的Nervana神经网络处理器(NNP-I)。据报道,该处理器的AI训练性能将达到竞争显卡的10倍。
谷歌去年推出了专用推理芯片Edge TPU;阿里巴巴也在去年12月宣布,计划在今年下半年推出首款自主研发的AI推理芯片。
在FPGA方面,亚马逊最近推出了自己的AI云加速芯片——AWS Inferentia。
微软也在Project Brainwave中预报了一个类似的平台。
今年3月,Facebook发布了用于AI推理的服务器芯片Kings Canyon。
就在本月,英特尔宣布推出一系列芯片组——Agilex,针对人工智能和大数据工作负载进行了优化。
但高通对Cloud AI 100的性能优势颇有信心,认为它将在深度学习芯片组市场上占据优势,预计到2025年,该市场规模将达到6630万美元。
“很多人把网络硬件放在云端,就像一个内容传输网络,用于不同类型的处理,无论是云端游戏,还是人工智能处理。这是另一个关键趋势。高通有机会从终端用户的输入技术一路参与,一直到云端。”Kressin说。
高通的另一个潜在优势是什么呢?生态系统的支持。去年11月,高通向一家专注于edge AI和on-device AI的初创基金提供1亿美元,特别投入于自动驾驶汽车、机器人、计算机视觉和物联网领域。去年5月,高通与微软合作,为在其许多片上系统芯片中嵌入的AI加速器创建了一个vision AI开发工具包。
“就市场规模而言,推理正在成为芯片领域的一个相当大的市场,”Kressin说:“随着时间的推移,我们预计推理的规模——从2018年至2025年大约会增长10倍。我们非常有信心成为这一领域的领导者。”
-
处理器
+关注
关注
68文章
19178浏览量
229198 -
高通
+关注
关注
76文章
7445浏览量
190389 -
系统芯片
+关注
关注
0文章
38浏览量
18367
原文标题:高通发布7纳米专用AI芯片Cloud AI 100,性能碾压业界10倍
文章出处:【微信号:AI_era,微信公众号:新智元】欢迎添加关注!文章转载请注明出处。
发布评论请先 登录
相关推荐
评论