谷歌宣布开放TPU按时收费 英伟达迎来最强劲的对手

【AI智科技】谷歌宣布开放TPU服务。按时计费，每小时6.5美元。英伟达迎来最强劲的对手。

谷歌在官方博客中称，在新发布的Cloud TPU帮助下，不到一天的时间，你就可以在ImageNet上把ResNet-50模型训练到75%的程度，成本不足200美元。

此前，TPU已经开放给部分客户使用。例如，美国出行服务公司Lyft在去年底开始参与了谷歌新型芯片的测试。

Lyft的软件总监AnanthaKancherla表示，“自从使用Google Cloud TPU以来，对其速度印象非常深刻，以前通常需要几天，而现在可能需要几个小时。深度学习正成为使自动驾驶车辆得以运行的软件的中坚力量。”

芯片提供的是人工智能三要素中的计算力，TPU的全面开放，可为中小AI公司在2018年的商业化应用落地提供硬件上的强大支撑。

TPU集推理和速度一身

TPU究竟是谁？击败围棋大师李世石的DeepMindAlphaGo中，Google TPU是重要的核心部件。

2016年5月，谷歌发布TPU，是一款为机器学习特别定制的AI芯片。之后，TPU逐渐进入到Google旗下的诸多AI服务上。比如每一次搜索都有用到TPU的计算能力，最近还用在了Google翻译、相册等软件背后的机器学习模型中。

据Google Brain团队负责人、Google Research Group资深院士，Google AI项目的“精神领袖”Jeff Dean透露，Google TPU已经存在于图像搜索中——Google Photo、Google Translate等。

一年之后，谷歌发布二代TPU，新的TPU包括了四个芯片，每秒可处理180万亿次浮点运算。Google还找到一种方法，使用新的计算机网络将64个TPU组合到一起，升级为TPU Pods，可提供大约11500万亿次浮点运算能力。

除了速度快，第二代TPU最大的特色，是相比初代TPU它既可以用于训练神经网络，又可以用于推理。

在算力和推理的支持下，Google翻译几乎可以实时将英语句子变成中文，AlphaGo能以超人的熟练度玩围棋。

英伟达迎来巨大挑战

在机器学习市场，芯片厂商NVidia的GPU过去几乎主宰了市场。此前，TPU并未向第三方用户开放，多是用在谷歌自家产品上，对GPU并不构成实质性威胁。

另外，TPU与GPU还有几大优势。

1、速度和效率提升。TPU与同期的CPU和GPU相比，可以提供15-30倍的性能提升，以及30-80倍的效率（性能/瓦特）提升。

2、与CPU和GPU相比，单用途的TPU就是一个单线程芯片，不需要考虑缓存、分支预测、多道处理等问题。

3、CPU和GPU相比，TPU的控制单元更小，更容易设计，面积只占了整个冲模的2%，给片上存储器和运算单元留下了更大的空间。而且，TPU的大小只有其他芯片的一半。硅片越小，成本越低，良品率也越高。

4、确定性方面，TPU单用途带来的另一个优势。CPU和GPU需要考虑各种任务上的性能优化，因此会有越来越复杂的机制，带来的副作用就是这些处理器的行为非常难以预测。

而TPU，能轻易预测运行一个神经网络、得出预测，需要多长时间，这样，能让芯片以吞吐量接近峰值的状态运行，同时严格控制延迟。

面对TPU的强大算力和速度，和开放模式，GPU需要认真思考对策。