业界丨专访 Jeff Dean,谷歌战神谈增强学习和无监督学习

编者按:近日,谷歌大脑负责人 Jeff Dean 在接受 Fortune 杂志采访时讲述了他对无监督学习和增强学习在人工智能领域应用的看法,雷锋网进行编译。

下一次你在使用谷歌搜索引擎或者使用地图导航的时候,你需要记住他们背后有一个很大的大脑为你提供搜索结果,并确保你不会迷路。

当然,它并不是一个真正的大脑,而是谷歌大脑研究团队。《财富》杂志的 Roger Parloff 写到:

在过去几年中,研究小组已经创造了超过 1000 个深度学习项目将其应用在谷歌现有的产品当中:如 YouTube,谷歌翻译和谷歌相册等。研究人员通过深度学习将大量数据输入到神经网路当中,学习比人类识别速度更快的模式。

研究人员推动人工智能面临的挑战是什么?

无监督学习的不成熟。人类的学习方式可以看作是一种无监督学习,即你只需观察你周围的世界并理解事物的运行方式来丰富你的认知,无监督学习是机器学习非常热门的一个分支,但是它还未达到监督学习能解决任务的那个程度。

无监督学习是指如何从观察和感知当中学习的,如果计算机可以观察和感知,这是否可以帮助解决更复杂的问题?

没错,人的视觉主要通过无监督学习的方式获得训练。当你还是一个孩子的时候,你在观察世界时,有时你会得到一个监督的信号:比如有人说“这是一只长颈鹿”或者“这是一辆车”的时候,这些少量的监督数据就是你的心理模型对自然的回应,从而完成你对世界的认知。

我们需要更多地结合监督和无监督学习,就我们大多数机器学习的系统工作方式而言,我们还未真正到达那一步。

可否解释一下增强学习技术?

增强学习背后的逻辑是你未必需要明确你要采取的行动,你只要试探性地做一个你认为不错的行动,然后观察“世界”会有怎样的反应。如同下棋一样,你可根据你对手的行动来进行反应。最终在整个序列行为后得到奖赏信号。

增强学习是在你得到奖赏信号的同时,能将“信任”或“过失”分配到你。它在今天的某些领域非常有效。

当你所执行的任务状态非常宽泛时,此时使用强化学习就会遇到一些挑战。在现实世界中的某个固定时刻操作一个事项涉及到的执行范围可能非常广泛。而在棋盘游戏当中,你走的每一步棋都限定在一定的范围内,而且游戏规也会对你进行限制,这使得其奖赏信号的逻辑非常简单:要么赢,要么输。

如果我的任务是磨一杯咖啡或者其他,整个过程我也许需要采取一系列的动作,而且没有固定的评判标准,那么这个奖赏信号就不是那么清晰。

但你仍然可以分为很多步骤,如当你在现磨一杯咖啡时,你就会学习到如果没有在咖啡豆被冲泡之前把它们磨碎就会做出来一杯糟糕的咖啡。

对,我认为增强学习核心地方就是它需要探索。这种探索在物理环境当中使用有点困难。我们开始尝试把它应用在计算机当中,当机器人采取一系列行动时,它会被限制在一个指定时间中只可以采取有限数量动作的集合。然而在计算机模拟中,它更容易使用大量的计算机资源,并得到一百万个样本。

谷歌是否将增强学习应用在核心搜索产品中?

我们主要通过 DeepMind 和我们的数据中心操作人员之间的合作来将增强学习应用在核心产品中。它们使用强化学习来设置数据中心内的空调旋钮,并实现相同的、安全的冷却操作和操作条件,大幅降低能耗。他们能够发现哪些旋钮的设置可以起到一定的作用,以及当你以不同的方式转动旋钮时,它们会如何反应。

通过增强学习,可以发现这 18 个旋钮的设置,或者更多旋钮并未被操作人员考虑进去。了解这个系统的人会这样说:这真是一个奇怪的系统。但是事实证明,它们运行得确实不错。

增强学习更适用于哪些任务?

数据中心运行良好因为你一次需要执行的不同操作并不多。正像 18 个旋钮,你在那里可以上下旋转它们。这样结果是可以计算出来的。假设你在适当的、可接受的温度范围内工作,你就会得到一个让能耗降低的奖赏操作。从这个角度看,这差不多是一个理想的增强学习问题。

一个更具挑战性的强化学习案例是试图用它来决定我该显示什么样的搜索结果。这有一个更广泛的搜索结果集,我可以展示出不同查询的反应,并且奖赏信号本身就是一种小范围的噪音。就像用户看一个搜索结果,喜欢和不喜欢表现地不是那么明显。

如何判断用户在搜索中不喜欢某一个结果?

这的确是一个很难解决的问题。由于强化学习可能还不够成熟,以至于在一些极度无约束的环境中,奖赏信号还不是那么明显。

将研究成果应用于用户每天使用的产品时,有哪些比较大的挑战?

这里面其中一项就是,很多机器学习问题的解决方案和我们对这些解决方案的研究可以在不同的领域中重复使用:我们与地图团队合作了一些研究,他们想要读取出现街头所有店铺和 Logo,从而更好地了解世界,比如确定这里是披萨店还是其他。

为了在图像中找到文本,你可以训练一个机器学习模型,并给它一些样本,比如人们在文本周围画一个圆圈或者方框。实际上,你可以用它来训练模型去检测哪些图像中包含文本。

这是一个普遍适用的功能,地图团队中的不同部门可以重复使用以上模型来完成卫星图像分析任务,比如在美国境内或者世界范围内找到一个屋顶或者估计在屋顶上的太阳能电池板的安装位置。

随后我们发现,相同类型的模型可协助我们解决医疗成像的初步工作。现在你有了医学图像,你可以试图找到那些与临床相关图像的有趣部分。

原文发布于微信公众号 - AI科技评论(aitechtalk)

原文发表时间:2016-11-28

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏AI科技大本营的专栏

传统程序员要不要转行到AI?

近年来,随着 Google 的 AlphaGo 打败韩国围棋棋手李世乭之后,机器学习尤其是深度学习的热潮席卷了整个 IT 界。所有的互联网公司,尤其是 Goog...

571
来自专栏新智元

邓侃解读谷歌首篇电子病历论文:完整披露谷歌医疗大脑野心

作者:邓侃 【新智元导读】上周,谷歌公布了首篇电子病历相关论文,由Jeff Dean率队联合众多大牛和顶级医学院完成。然而,不少业内人士,包括康奈尔大学副教授王...

3207
来自专栏AI科技评论

详解 | 滴滴大数据预测用户目的地,准确率超90% | KDD 2017

AI科技评论按:在KDD 2017中滴滴研究院副院长叶杰平所带的滴滴团队关于出租车组合优化分单模型和目的地预测的论文《A Taxi Order Dispatch...

4106
来自专栏CreateAMind

语义学习-通用智能的切入点-实现路径v0.01

《思想本质》一书通过语言和认知对人的思想认知等进行了分析,前部分有一个核心观点是(李德毅院士也提过):语言是认知的语义索引,语言只是符号,语言表达的含义即语言背...

892
来自专栏AI科技评论

腾讯AI Lab刘霁谈机器学习,异步计算和去中心化是两大杀器

AI 科技评论按:并行计算是提高计算机系统计算速度和处理能力的一种有效手段。它的基本思想是用多个处理器来协同求解同一问题,即将被求解的问题分解成若干个部分,各部...

3115
来自专栏人工智能头条

深度学习“引擎”之争:GPU加速还是专属神经网络芯片?

1464
来自专栏华章科技

基于客户行为事件的跨领域统一推荐模型探讨

跨领域深度学习模型一直是近几年推荐系统主要研究方向之一, 本文探讨一种个人客户画像构建的新思路, 并讨论对应的基于个人行为事件的跨领域统一推荐模型。

443
来自专栏AI科技大本营的专栏

量子计算+人工智能——这才是未来科技的最大热门!

编译 | AI科技大本营 参与 | shawn 编辑 | 明明 90年代初,当卫奇塔州立大学(Wichita State University)的物理学教授El...

3747
来自专栏机器之心

观点 | NIPS 2017经典论文奖获得者机器学习「炼金术」说引热议,LeCun发起反驳

机器之心报道 参与:路雪、刘晓坤、李泽南 去年的 NIPS 曾因 GAN 引发了一场风波,而今年的 NIPS 同样有着不同思想的碰撞,而这场机器学习「炼金术」讨...

40513
来自专栏机器之心

深度 | 吴恩达对话Yann LeCun:从相识Hinton到深度学习崛起

机器之心整理 机器之心编辑部 深度学习专项课程 Deeplearning.ai 中,也包含吴恩达和多位深度学习大牛的对话视频,之前 YouTube 上已经公开了...

2775

扫描关注云+社区