似懂非懂Google TPU 2.0

前面刚学习了Google的第一代TPU,写了篇《似懂非懂Google TPU》,很多朋友一起讨论,纷纷议论说好像也不是很牛逼?怎么可能,Google在技术上还是很有追求的。

这还没过几个月,Google CEO Sundar Pichai 在 5月18日I/O 大会上正式公布了第二代 TPU,又称 Cloud TPU 或 TPU 2.0,继续来看下TPU 2.0有什么神奇之处。

第一代 TPU 它被做为一种特定目的芯片而专为机器学习设计,并用在 AlphaGo 的人工智能系统上,是其预测和决策等技术的基础。随后,Google 还将这一芯片用在了其服务的各方面,比如每一次搜索都有用到 TPU 的计算能力,最近还用在了 Google 翻译、相册等软件背后的机器学习模型中。

Google 宣布第二代的 TPU 系统已经全面投入使用,并且已经部署在 Google Compute Engine 平台上。它可用于图像和语音辨识、机器翻译和机器人等领域。

新的 TPU 包括了 4 个芯片,每秒可处理 180 万亿次浮点运算。Google 还找到一种方法,使用新的电脑网络将 64 个 TPU 组合到一起,升级为所谓的TPU Pods,可提供大约 11,500 万亿次浮点运算能力。

强大的运算能力为 Google 提供了优于竞争对手的速度,和做实验的自由度。Google 表示,公司新的大型翻译模型如果在 32 块性能最好的 GPU 上训练,需要一整天的时间,而八分之一个 TPU Pod 就能在 6 个小时内完成同样的任务。之所以开发新芯片,部分也是因为 Google 的机器翻译模型太大,无法如想要的那么快进行训练。

除了速度,第二代 TPU 最大的特色,是相比初代 TPU 它既可以用于训练神经网络,又可以用于推理。初代的 TPU 只能做推理,要依靠 Google 云来即时收集资料并产生结果,而训练过程还需要额外的资源。

机器学习的能力已经逐渐在消费级产品中体现出来,比如 Google 翻译几乎可以即时将英语句子变成中文,AlphaGo 能以超人的熟练度玩围棋。所有这一切都要靠训练神经网络来完成,而这又需要计算能力。所以硬件越强大,得到的结果就越快。如果将每个实验的时间从几周缩短到几天或几个小时,就可以提高每个机器学习者快速反覆运算,并进行更多实验的能力。由于新一代 TPU 可以同时进行推理和训练,研究人员能比以前更快地部署 AI 实验。

总结起来,Google TPU 2.0已经不局限于推理,还进入到了训练场景,挑战这个领域的垄断者 Nvidia 的 GPU 。

具体细节,Google还没有公布,同学们还可以再等等Google公布论文细节,总的来说,Google是决心在AI分一杯羹的,以Google的技术实力,还是非常值得期待的。

原文发布于微信公众号 - 大数据和云计算技术(jiezhu2007)

原文发表时间:2017-07-07

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏新智元

微软首位华人“全球技术院士”黄学东:10个神经网络造就工程奇迹

【新智元导读】微软语音识别技术24年老将黄学东近日被评为“微软全球技术院士”,成功摘下这一微软技术的“桂冠”。 黄学东于1993年加入微软。1995年,黄学东最...

3797
来自专栏机器之心

业界 | 吴恩达deeplearning.ai实习生招募开放:仅要求Coursera课程证书

机器之心报道 参与:李亚洲、李泽南 在 8 月 8 日吴恩达正式宣布教育项目 deeplearning.ai 启动后(参见《机器之心专访吴恩达,深度学习课程项...

36716
来自专栏AI科技评论

业界丨深度学习的三种硬件方案 ASICs、FPGAs 和 GPU,开发者需要知道什么?

AI科技评论:今年三月 AlphaGo 和李世石的“世纪之战”炒红了深度学习—— AlphaGo 采用了人工神经网络技术,充分挖掘了深度学习的潜力。简单来说,深...

3109
来自专栏AI科技评论

学界 | 把人识别成狗?机器还是太容易被骗

AI 科技评论按:日前谷歌大脑负责人 Jeff Dean 在推特上转了一篇 Anish Athalye 的推文,推文内容如下: ? 防御对抗样本仍然是一个尚未解...

26911
来自专栏华章科技

数据科学行业的8个关键角色:职责与技能

第二届世界互联网大会的召开,将大数据战略推向了又一高潮,许多与数据相关的职位如雨后春笋般涌现,数据科学家、数据分析师、数据架构师、统计学家、数据库管理员、商业分...

622
来自专栏AI科技评论

业界 | 黄仁勋亲自撰文怼上 TPU:P40速度比你快 2 倍,带宽是你的 10 倍

AI科技评论按:前不久谷歌发布了关于TPU细节的论文,称“TPU 处理速度比当前 GPU 和 CPU 要快 15 到 30 倍”。当时就有人对此种“比较”表示质...

3326
来自专栏人工智能头条

深度学习“引擎”之争:GPU加速还是专属神经网络芯片?

1464
来自专栏机器之心

机器之心专访杜克大学Lawrence Carin教授:十年后,你的工作会被人工智能取代吗?

机器之心原创 作者:亚铁 ? 杜克大学副教务长 Lawrence Carin 教授 Lawrence Carin 教授是杜克大学分管科研的副教务长,他于 198...

27310
来自专栏大数据文摘

数据科学行业的8个关键角色:职责与技能

1676
来自专栏PPV课数据科学社区

【每天一个数据分析师】几乎任何一种分析,都可以用矩阵式分析来引出思路

论坛君 “每天一个数据分析师”在第五期采访到的是一位萌妹子Yuki,她毕业于复旦大学,目前在上海从事互联网金融行业的数据分析,主要从事业务和用户方向的数据分析和...

4577

扫描关注云+社区