学界 | Ian Goodfellow详解GANs诞生始末:没有重现,谈何理解?

AI科技评论按:Ian Goodfellow 作为当代人工智能最为瞩目的研究者之一,不论是作为 Yoshua Bengio 的得意门生,还是在 OpenAI 及谷歌间跳槽辗转,他的一举一动都饱受关注。但奠定他人工智能地位的重要一着,当属 Goodfellow 提出的生成式对抗网络(GANs)了,在 2016 年年底,他也在 NIPS 大会上分享了研究成果。日前,Wired 对 IanGoodfellow 进行了采访,了解了 GANs 的研究起源,由AI科技评论进行编译。

1988 年 2 月 15 日,也就是1965 年诺贝尔物理奖得主理查德·费曼因腹膜癌逝世的那一天,他教室的黑板留下了这样一句话:「我不能理解我无法创造之物。」这句名言被谷歌大脑团队的 Ian Goodfellow 用来解释人工智能的设计逻辑:「人工智能无法理解它不能创造的东西。」

「生成模型」是 Goodfellow 在谷歌建立的一个新的研究小组,系统能够创建图像、声音及其它真实世界的表征。Goodfellow 引用了费曼的话,认为这是实现人工智能的必由之路。

时间追溯到 2014 年,当 Goodfellow 还在蒙特利尔大学读博之时,他在一次醉酒的讨论中激发了构建一种名为「generative adversarial networks」,也就是 GANs 的 AI 技术。

现在,对 GANs 有粗略了解的学者都能说出这个观点的核心概念:一个生成器生成图像;一个判别器判断图像的真假。Goodfellow 表示:「你可以把两者理解为艺术家与评论家,前者想骗过评论家的眼睛,让他相信自己所呈现的画是真的。」因此,两者就能够在这个过程中不断提升各自的水平,直到摆脱人类的指导。

Facebook 首席科学家,深度学习三大巨头的 Yann LeCun 认为,「GANs 是近 20 年来深度学习领域诞生的最有意思的想法。」

深度学习作为人工智能的一个分支,改变了以谷歌、微软、亚马逊及 Facebook 为代表的互联网巨头的发展方向。虽然 Goodfellow 的想法还有待完善,但这一想法已经迅速扩展到整个 AI 界。包括 LeCun 在内的很多研究者认为 GANs 是实现无监督学习的可能路径。

而 Goodfellow 又是在怎样偶然的情况下设计出 GANs 的呢?他当时在 Les 3 Brasseurs 酒吧,和很多好友一同饯别博士毕业、如今就职于 DeepMind 的 Razvan Pascanu。其中一人谈到了他正在做的研究,即用统计学的方式将照片数据输入计算机,使之创建图片。当时 Goodfellow 认为这个想法不可能行得通,因为这涉及太多的统计学数据了。但在同时,他想到了一个更好的方法:神经网络能够教机器如何生成真实的图片。

Goodfellow 提出,可以构造两个神经网络,一个能学习生成真实图片,另一个能够判断真伪并给予反馈,通过这样的方式,他认为可以教会神经网络如何生成非常逼真的图片。

当时这个想法遭到了朋友的反驳,他们认为这个方法并不管用。而在聚会结束之后,微醺的 Goodfellow 回到家,「我感觉有点醉,而女朋友已经睡着了。我就在笔记本电脑上彻夜编出了 GANs 模型。实在是非常幸运,如果没有那晚的成功,可能我就放弃了这个想法。」

随后,Goodfellow 根据当晚的想法与几位研究者提出了 GANs 的概念,在第一篇论文里,两个神经网络通过生成式对抗学习,生成了手写数字的图片。而在接下来的三年间,上百篇论文都围绕这一概念进行探索。如今,从猫到火山再到星系,几乎任何事物都能当作生成图片的对象,甚至,它还协助了天文实验及物理学的研究。

尽管想法美好,现实却推进困难。毕竟要训练的神经网络不是一个,而是两个。Goodfellow 在谷歌建立的 GANs 研究团队目前所做的,就是尽可能地精简研究过程。「作为一名机器学习研究者,我需要研究可靠的训练方式。」

而除了生成图片与声音,系统还能够识别音画。能在少量人为干预的情况下,系统就能学到更多的知识。「模型能够理解世界如何构成,」Goodfellow 表示,「而且能在不进行明确告知的情况下进行学习。」

GANs 甚至能实现无监督的学习,实际上这一理念还没有化为现实。目前,神经网络能通过分析百万张猫的照片而成功识别,但需要人类大量进行人为标记,而且涉及人类的深度参与。人类的介入也一直成为 AI 研究者所考虑的问题。以 LeCun 为代表的研究者正在努力推进无监督学习系统,毫无疑问,这将推进人工智能的发展。

但这只是开始。GANs 将带来更多的可能性。南加利福尼亚大学的 AI 研究员 David Kale 认为,因为 GANs 能生成伪造数据,因此它能够在不侵犯用户隐私的前提下构建医疗 AI。机器学习得以在这些新生成的数据上进行训练。Kale 表示,「比起将患者数据放到互联网上(承受可能带来的隐私风险),为何我们不能训练 GANs 生成一个数据集,再用于其它领域的研究呢?」

有许多研究者在探究 GANs 背后的奥秘,而 Goodfellow 则打算在谷歌建立一个专门的团队。在离开谷歌加入 OpenAI 一年之后,他又重回谷歌,为了更好地与合作者们沟通。「花费一整天视频通话并不好玩,也不是解决工作的最佳途径。」

分享诚然重要,但密切的合作亦是如此——不论是 AI 研究者还是神经网络,都是一样。

Via Wired

原文发布于微信公众号 - AI科技评论(aitechtalk)

原文发表时间:2017-04-12

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏机器之心

深度 | 让机器思考与互相理解:DeepMind提出机器心智理论神经网络ToMnet

2757
来自专栏黄成甲

夜话人工智能

人工智能是一门非常复杂、庞大的科学,其中的机器学习、深度学习等细分学科是当下的研究热点。从1956年至今,无数科学家历经艰辛与坎坷,终于让人工智能迈出了属于全人...

1813
来自专栏目标检测和深度学习

谷歌开启 Naturalist 2018 挑战赛,大型物种分类技术有望突破

雷锋网 AI 研习社按:计算机视觉技术从 70 年代到现在,40 多年时间得到迅速发展,许多计算机视觉的应用出现在了生产生活领域。尤其是到了 2012 年,基于...

37611
来自专栏AI科技评论

深度|MIT人工智能算法披露:我们如何用 200 万张图片预见 1.5 秒后的世界?

我们生活在物理世界里,但往往没有深入思考这样一个问题:自己是如何迅速理解周边事物的? 人类能够对背景的变化、事物之间的相互关联等等做出非常自然的反应。而且,这些...

33912
来自专栏机器学习算法与Python学习

一篇文章讲清楚人工智能、机器学习和深度学习的区别与联系

关键字全网搜索最新排名 【机器学习算法】:排名第一 【机器学习】:排名第一 【Python】:排名第三 【算法】:排名第四 人工智能的浪潮正在席卷全球,诸多词汇...

4477
来自专栏人工智能头条

深度神经网络的灰色区域:可解释性问题

1912
来自专栏人工智能头条

成为数据科学家,需具备这些技能

1422
来自专栏专知

等你在2118:探索机器学习算法生命周期

【导读】1月22日,统计学家Venkat Raman发布了一篇比较有意思的博文,作者探讨了到2118年,即未来一百年中机器学习中一些算法可能的兴衰存亡。具体分析...

35112
来自专栏PPV课数据科学社区

作为数据人,你知道人工智能、机器学习、深度学习,三者之间的同心圆关系吗?

本方转自机器之心 作者Micheal Copeland 今年早些时候,当谷歌 DeepMind 团队的 AlphaGo 打败了李世石时,媒体就用人工智能、...

2766
来自专栏新智元

UCL汪军团队新方法提高群体智能,解决大规模AI合作竞争

【新智元导读】当前人工智能最大的挑战之一,是如何让多个智能体学会一起完成同一个任务,学会彼此合作和相互竞争。在发表于ICML 2018的一项研究中,伦敦大学学院...

1370

扫码关注云+社区