TPU是什么 - 谷歌新款AI芯片，比起传统CPU强了些什么？

　　TPU是什么？

　　TPU就是 custom ASIC specifically for machine learning ，专门为机器学习设计的专用集成电路。在Google2016 I/O上首次提及，但是并没有公布技术细节，只是在其官方博客里有披露一些信息。

　　ASIC并不是新鲜的东西，只不过Google利用它来做来一个定制版的ASIC，但是具体技术细节是没有披露的，而且以后会不会披露，会不会对消费者开放，这都是有待观察的，现在披露的消息是说会用在Google的云计算平台上。

　　遗憾的是目前并没有太多的故事可分享，唯一一个值得注意的就是Google已经使用此芯片运行了一年多的时间，而且已经用在了其大量的产品上，说明TPU已经是一个较为成熟的设计了。

　　到底会不会取代GPU或CPU呢？谷歌资深副总裁Urs Holzle透露，当前谷歌TPU、GPU并用，这种情况仍会维持一段时间，但也语带玄机表示，GPU过于通用，谷歌偏好专为机器学习设计的晶片。GPU可执行绘画的运算工作，用途多元，TPU属于ASIC，也就是专为特定用途设计的特殊规格逻辑IC，由于只执行单一工作，速度更快，但缺点是成本较高。

　　TPU并非万能

　　TPU的高效能的来源正是其非万能的设计逻辑（极度单一的设计原则），正如上文所说的CPU是通用计算，而GPU相对来说虽然比CPU更不通用，但是因为GPU本身是作为显卡的处理器产生的，所以GPU也是相对通用的。而TPU为专用的逻辑电路，单一工作，速度快，但由于其是ASIC，所以成本高。

　　另外一点有可能是TPU的暂时的缺点就是TPU现在为Google专用，还不是消费类产品，而要走向流行的消费类产品，还需要现在市场的软硬件进行配合，这也是需要一定的时间的，而且会不会得到市场最终认可也是存在疑问的。所以TPU非常不万能。

　　只是TPU的发布，有一点很重要的意义：现在的深度学习生态环境已经非常重视这些硬件的升级了，这些定制硬件的春天就要到来，最终这个市场鹿死谁手真是无法预料，而国内在这方面并不落后，如寒武纪，地平线这样公司也正在这方面摩拳擦掌。

　　虽然TPU带来了突破性进步，但这并不代表会完全淘汰CPU和GPU，目前主要会用来解决集成电路存在的成本高、耐用性差的问题。值得期待的事，Google是互联网性质的企业，在硬件制作上能否超越传统的硬件产商（如Nvidia，Intel等）， 我们可以静观其变。

　　目前的深度学习硬件设备还有哪些？与传统CPU有何差异？

　　那么目前深度学习的主要硬件设备与传统CPU的差异有哪些呢？

　　FPGA

　　FPGA最初是从专用集成电路发展起来的半定制化的可编程电路，它无法像CPU一样灵活处理没有被编程过的指令，但是可以根据一个固定的模式来处理输入的数据然后输出，也就是说不同的编程数据在同一片FPGA可以产生不同的电路功能，灵活性及适应性很强，因此它可以作为一种用以实现特殊任务的可再编程芯片应用与机器学习中。

　　譬如百度的机器学习硬件系统就是用FPGA打造了AI专有芯片，制成了AI专有芯片版百度大脑——FPGA版百度大脑，而后逐步应用在百度产品的大规模部署中，包括语音识别、广告点击率预估模型等。在百度的深度学习应用中，FPGA相比相同性能水平的硬件系统消耗能率更低，将其安装在刀片式服务器上，可以完全由主板上的PCI Express总线供电，并且使用FPGA可以将一个计算得到的结果直接反馈到下一个，不需要临时保存在主存储器，所以存储带宽要求也在相应降低。