学习
实践
活动
工具
TVP
写文章

谷歌宣布开放TPU按时收费 英伟达迎来最强劲的对手

【AI智科技】谷歌宣布开放TPU服务。按时计费,每小时6.5美元。英伟达迎来最强劲的对手。

谷歌在官方博客中称,在新发布的Cloud TPU帮助下,不到一天的时间,你就可以在ImageNet上把ResNet-50模型训练到75%的程度,成本不足200美元。

此前,TPU已经开放给部分客户使用。例如,美国出行服务公司Lyft在去年底开始参与了谷歌新型芯片的测试。

Lyft的软件总监AnanthaKancherla表示,“自从使用Google Cloud TPU以来,对其速度印象非常深刻,以前通常需要几天,而现在可能需要几个小时。深度学习正成为使自动驾驶车辆得以运行的软件的中坚力量。”

芯片提供的是人工智能三要素中的计算力,TPU的全面开放,可为中小AI公司在2018年的商业化应用落地提供硬件上的强大支撑。

TPU集推理和速度一身

TPU究竟是谁?击败围棋大师李世石的DeepMindAlphaGo中,Google TPU是重要的核心部件。

2016年5月,谷歌发布TPU,是一款为机器学习特别定制的AI芯片。之后,TPU逐渐进入到Google旗下的诸多AI服务上。比如每一次搜索都有用到TPU的计算能力,最近还用在了Google翻译、相册等软件背后的机器学习模型中。

据Google Brain团队负责人、Google Research Group资深院士,Google AI项目的“精神领袖”Jeff Dean透露,Google TPU已经存在于图像搜索中——Google Photo、Google Translate等。

一年之后,谷歌发布二代TPU,新的TPU包括了四个芯片,每秒可处理180万亿次浮点运算。Google还找到一种方法,使用新的计算机网络将64个TPU组合到一起,升级为TPU Pods,可提供大约11500万亿次浮点运算能力。

除了速度快,第二代TPU最大的特色,是相比初代TPU它既可以用于训练神经网络,又可以用于推理。

在算力和推理的支持下,Google翻译几乎可以实时将英语句子变成中文,AlphaGo能以超人的熟练度玩围棋。

英伟达迎来巨大挑战

在机器学习市场,芯片厂商NVidia的GPU过去几乎主宰了市场。此前,TPU并未向第三方用户开放,多是用在谷歌自家产品上,对GPU并不构成实质性威胁。

另外,TPU与GPU还有几大优势。

1、速度和效率提升。TPU与同期的CPU和GPU相比,可以提供15-30倍的性能提升,以及30-80倍的效率(性能/瓦特)提升。

2、与CPU和GPU相比,单用途的TPU就是一个单线程芯片,不需要考虑缓存、分支预测、多道处理等问题。

3、CPU和GPU相比,TPU的控制单元更小,更容易设计,面积只占了整个冲模的2%,给片上存储器和运算单元留下了更大的空间。而且,TPU的大小只有其他芯片的一半。硅片越小,成本越低,良品率也越高。

4、确定性方面,TPU单用途带来的另一个优势。CPU和GPU需要考虑各种任务上的性能优化,因此会有越来越复杂的机制,带来的副作用就是这些处理器的行为非常难以预测。

而TPU,能轻易预测运行一个神经网络、得出预测,需要多长时间,这样,能让芯片以吞吐量接近峰值的状态运行,同时严格控制延迟。

面对TPU的强大算力和速度,和开放模式,GPU需要认真思考对策。

  • 发表于:
  • 原文链接http://kuaibao.qq.com/s/20180213G0GXHA00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码关注腾讯云开发者

领取腾讯云代金券