谷歌开放TPU应对英伟达GPU挑战

谷歌宣布将以“有限数量”向谷歌云客户开放张量处理器(Tensor Processing Unit,简称TPU)服务,按时收费,每小时成本6.50美元。

谷歌宣布张量处理单元(TPU)现在已经可以在谷歌云平台上供研究人员和开发人员试用,该模块是为谷歌服务(如Search、Street View、Google Photos和Google Translate)提供神经网络计算支持的定制芯片。

TPU是一个定制的特定于应用程序的集成电路(ASIC),专门为TensorFlow上的机器学习工作负载定制。谷歌两年前推出了TPU,去年发布了第二代云TPU。第一代TPU仅用于推理,而云TPU则适用于推理和机器学习训练。使用四个定制ASICs构建的云TPU提供了一个健壮的64GB的高带宽内存和180TFLOPS的性能。

在向公众开放之前,谷歌已经在内部广泛地实施了这些TPU。阿尔法狗(AlphaGo)使用48个TPU进行推断,在围棋游戏中击败了人类冠军。云TPU为缩短机器学习模型的训练时间提供了很好的解决方案。谷歌大脑(Google Brain)小组领导Jeff Dean在Twitter上发文说,云TPU可以在24小时内将一个ResNet-50模型训练到75%的精度。

当云TPU发布的时候,Google为机器学习研究人员提供了1000个免费设备。Lyft是美国第二大打车公司,自去年以来,一直在其自动驾驶系统中使用云TPU。该公司的软件自主驾驶5级主管阿南塔·坎切拉(Anantha Kancherla)说:“自从与谷歌云TPU合作以来,我们对他们的速度印象非常深刻——通常需要几天时间才能完成的工作现在可能需要数小时。”

位于纽约的对冲基金双西格玛的首席技术官阿尔弗雷德·斯佩克特(Alfred Spector)说:“我们发现,将张量流工作负载转移到谷歌TPUs,极大地降低了新模型的编程复杂性和训练时间,提高了我们的生产率。”

谷歌的云TPU目前还在测试版,仅提供有限的数量和使用。开发者可以每小时6.50美元的价格租用云TPU,因其拥有强大的计算能力,这似乎是一个合理的价格。

Google还发布了几个模型实现工具,以节省开发者的时间和精力为云TPUs编写程序,包括ResNet-50和其他流行的图像分类模型、机器翻译和语言建模的转换器,以及用于对象检测的RetinaNet。

尽管谷歌目前没有直接向客户销售TPU芯片,但它们的可用性对英伟达(Nvidia)仍是一个挑战,英伟达的GPU目前是世界上使用最多的AI加速器。甚至Google也使用了大量的英伟达GPU来提供加速的云计算服务。然而,如果研究人员像预期的那样从GPU切换到TPUs,这将减少Google对英伟达的依赖。

2017年,谷歌(Google)吹嘘它的TPUs比当代的GPUs和CPUs快15至30倍,TOPS/Watt标准提高了30–80倍。在机器学习训练中,云TPU的性能(180比120TFLOPS)比Nvidia最好的GPU Tesla V100的内存容量(64GB比16GB)高4倍。

虽然现在将云TPU誉为AI芯片冠军还为时尚早,但它的发布让研究者们兴奋,标志着谷歌雄心勃勃的进军人工智能加速器领域的开始。

原文发布于微信公众号 - 人工智能快报(AI_News)

原文发表时间:2018-03-23

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏AI科技评论

深度学习理论研究已进入瓶颈期?看看李飞飞们怎么说

AI圈推特红人,Keras框架的作者François Chollet又搞大新闻了!近日François Chollet在推特上发推称:“深度学习研究已经进入了瓶...

362110
来自专栏钱塘大数据

【干货】成为一名数据科学家的学习三部曲

导读:如果你看到这篇文章的题目开始阅读本文,那么一定是数据科学激起了你的兴趣。你肯定希望2016年成为你的转运年,对不对?如果你从今天起坚持去执行这些新年计划,...

37160
来自专栏腾讯研究院的专栏

AI:真实的希望与隐忧

姚  星  腾讯集团副总裁、腾讯AI Lab负责人   过去的二十年是信息高速发展的二十年,它经过了几个发展阶段。从发展的方向上来讲,应该是在上世纪九十年代初期...

21470
来自专栏新智元

【谷歌AI换帅】Jeff Dean正式接管,人工智能和搜索部门一分为二!

17740
来自专栏AI星球

[转载]如何在NLP领域第一次做成一件事

自己也写过一篇关于NLP研究领域的个人粗浅的理解与入门学习建议----吾爱NLP(3)—我对NLP的理解与学习建议,今日偶然发现了微软亚研大佬的这篇文章,不仅介...

21550
来自专栏数据科学与人工智能

【数据挖掘】互联网和金融 在数据挖掘上究竟存在什么区别?

文|周学春 在银行做了两年的数据分析和挖掘工作,较少接触互联网的应用场景,因此,一直都在思考一个问题,“互联网和金融,在数据挖掘上,究竟存在什么样的区别”。在对...

269100
来自专栏CDA数据分析师

互联网和金融 在数据挖掘上究竟存在什么区别?

在银行做了两年的数据分析和挖掘工作,较少接触互联网的应用场景,因此,一直都在思考一个问题,“互联网和金融,在数据挖掘上,究竟存在什么样的区别”。在对这个问题的摸...

32550
来自专栏量子位

LeCun列传:曾因AI理论遭人唾弃,如今终成一代大神

李杉 陈桦 若朴 编译自BuzzFeed 量子位 出品 | 公众号 QbitAI 距离Facebook门罗帕克总部约3000英里之外,在曼哈顿市中心一栋老旧的米...

33260
来自专栏PPV课数据科学社区

一个资深数据人对数据挖掘解读

在银行做了两年的数据分析和挖掘工作,较少接触互联网的应用场景,因此,一直都在思考一个问题,“互联网和金融,在数据挖掘上,究竟存在什么样的区别”。在对这个...

36250
来自专栏AI科技大本营的专栏

专访Uber焦加麟:即便有AI帮助,高精度地图制作仍然少不了人力

作者 | DavidZh 上周在 O'Reilly 和 Intel 人工智能2018北京大会上,Uber 公司资深软件工程师焦加麟做了关于人工智能在高精度地图制...

421110

扫码关注云+社区

领取腾讯云代金券