原标题:吊打NV和intel 谷歌自主开发70倍速TPU

为了处理海量的语音数据和AI计算,谷歌必须拥有一个强大的数据中心,但谷歌没有一味地扩大数据中心规模,而是考虑自主开发适用于AI计算的高性能用硬件。

经过一段时间的研发,谷歌开发了一种名为TPU(Tensor Processing Unit)的处理器,其专门为加速深层神经网络运算能力而打造。谷歌数据中心自2015年以来一直在使用TPU来加速AI服务,而且达到了非常理想的效果。

谷歌表示,相比服务器级Intel Haswell CPU和NVIDIA K80 GPU,TPU在AI运算测试中的平均速度要快15-30倍!更重要的是,TPU的每瓦性能要比普通的GPU高出25-80倍,可以大大缩小数据中心的规模。

此外,谷歌工程师还为TPU开发了名为CNN1的软件,其可以让TPU的运行速度比普通CPU高出70多倍,真可谓是吊打NVIDIA和intel的同级别产品。

说起TPU的逸闻,不得不提的就是大杀四方的AlphaGo,其实这一点上也有个很有趣的地方,我们在描述AlphaGo的那篇Nature文章中看到,AlphaGo只是跑在CPU+GPUs上,文章中说AlphaGo的完整版本使用了40个搜索线程,跑在48块CPU和8块GPU上,AlphaGo的分布式版本则利用了更多的机器,40个搜索线程跑在1202个CPU和176块GPU上。

这个配置是AlphaGo和樊麾比赛时使用的,所以当时李世乭看到两者的对弈过程后对人机大战很有信心。但是就在短短的几个月时间,Google就把运行AlphaGo的硬件平台换成了TPU,然后就呈现了大家所看到的结果,可见TPU性能之高。