2017年图灵奖得主、现任谷歌工程师以及计算机体系结构宗师David Patterson表示我们正处于“后摩尔定律时代”。谷歌、英伟达、微软、英特尔等各家公司都在探索不同的机器学习专用架构,最终市场会决定一切。对于硬件和软件工程师而言,正有无数能获得图灵奖的机遇在前面。
2017年图灵奖得主之一、加州大学教授、Google工程师和RISC先驱David Patterson表示,没有什么是比现在从事计算机系统结构更好的时候了。
那是因为,摩尔定律真的结束了,他说:“如果摩尔定律仍然有效,那我们现在就落后了15倍。我们正处于后摩尔定律时代(post-Moore’s Law era)。”
上周,在圣何塞举行的2018年@Scale会议上,Patterson表示,“我们已经处于性能增长的最后阶段。当性能每18个月翻一番时,人们就会丢掉用得好好的台式电脑,因为他们朋友的新电脑速度要快得多得多。”
但去年,Patterson曾说,“运行单个程序的性能只增长了3%,因此它是每20年翻一番。如果你只是坐在那里等着芯片变得更快,你将不得不等待很长的时间。”
对于像Patterson这样的计算机架构师来说,这实际上是个好消息。他同时指出,这也是软件工程师创新的好机会。“专为处理特定类型计算问题而定制的革命性的新硬件架构和新软件语言,正等待我们去开发,”Patterson说:“这些事情你只要去做,就有机会拿图灵奖。”
作为软件方面的一个例子,Patterson表示将Python重写为C可以使性能提高50倍。加上其他一些优化方法,速度会急剧增加,与原始Python程序相比性能提高1000倍也是完全有可能的。
在硬件方面,Patterson认为特定领域架构(domain-specific architectures,DSA)运行得更好。他说:“这不是魔术,只是我们能做的一些事情。”例如,应用程序并不都需要用同样精度的计算。他说,对于有些应用,你可以使用比常规的IEEE 754标准更低精度的浮点运算。
Patterson说,机器学习是现在应用这种新架构和语言的最大机会。“如果你是做硬件的,”他说,“你希望你的朋友都恨不得要更多更多的计算机。”而机器学习对于计算来说是“贪婪的,我们太喜欢了”。
他说,如今,关于哪种类型的计算机架构最适合机器学习,业界有很多争议,有很多公司在不同的架构上下注。谷歌拥有张量处理单元(TPU),每个芯片有一个核心和用软件控制的内存(而非缓存),英伟达的GPU则拥有80多个内核;微软正在走FPGA的路线。
至于英特尔,Patterson表示他们“在所有的赛道上都下了注”,为机器学习推销传统的CPU,收购Altera(这家公司向微软提供FPGA),并且收购Nervana,后者专注于开发神经网络专用处理器(类似于谷歌的TPU)。
除了这些大公司外,Patterson表示至少还有45家硬件初创公司都在解决这个问题,即设计机器学习专用架构。最终,他说,市场将决定一切。
“现在,”他说,“是计算机系统结构的黄金时代。”
-
芯片
+关注
关注
453文章
50406浏览量
421843 -
摩尔定律
+关注
关注
4文章
632浏览量
78934 -
机器学习
+关注
关注
66文章
8377浏览量
132410
原文标题:图灵奖得主David Patterson:将Python重写为C,性能最高提升1000倍!
文章出处:【微信号:AI_era,微信公众号:新智元】欢迎添加关注!文章转载请注明出处。
发布评论请先 登录
相关推荐
评论