前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >GAN 作者 Goodfellow:我为什么离开 OpenAI 重回谷歌大脑

GAN 作者 Goodfellow:我为什么离开 OpenAI 重回谷歌大脑

作者头像
新智元
发布2018-03-27 14:54:55
1K0
发布2018-03-27 14:54:55
举报
文章被收录于专栏:新智元新智元

【新智元导读】昨天 GAN 作者 Ian Goodfellow 已经离开 OpenAI,重新回到谷歌大脑工作的消息在业界引起议论。新智元第一时间报道了这一消息,今天带来跟进, Goodfellow 本人在 reddit 上回答了自己为何离开 OpenAI 并回到谷歌大脑。

根据新智元昨日得到的最新消息,GAN 作者 Ian Goodfellow 已经离开 OpenAI,重新回到谷歌大脑工作。在 GAN 技术火热的当下,谷歌大脑又迎来一员大将。

Ian Goodfellow 的个人主页和 Google Scholar 的介绍都标明了是在“谷歌大脑”工作。

根据 Goodfellow 在 Twitter 和 LinkedIn 的介绍,他应该是在今年3月初回到了谷歌大脑。

Goodfellow 于 2016 年 9 月加入 OpenAI,而此前他就在谷歌大脑工作。根据LinkedIn 页面,Goodfellow 在加入一年多以后,离开OpenAI,重新回去谷歌。

LinkedIn 页面显示 Goodfellow 的职业轨迹:

  • 2013年6月到2013年9月,在谷歌实习,职位:软件工程师
  • 2014年7月到2015年11月,谷歌研究员
  • 2015年11月到2016年3月,谷歌高级研究员
  • 2016年3月到2017年3月,Open AI 研究员
  • 2017年3月到现在,谷歌 Staff Research Scientist

消息出来不久,就有人在 reddit 上针对这件事提问:“Ian Goodfellow 真的离开 OpenAI 了吗?从他的 LinkedIn 上可以看出 Goodfellow 回到谷歌是非常近的事,有人知道为什么吗?这对 OpenAI、AI 这个领域的开放性、以及他在 AI 安全方面的工作有什么影响?”

对此,Goodfellow 很快作出如下回答:

是的,我在2月底离开 OpenAI,并回到谷歌大脑。

我很喜欢在 OpenAI 的日子,也为 OpenAI 的同事们与我合作完成的工作感到自豪。我重回谷歌大脑,是因为随着时间的推移,我发现我的研究集中在对抗样本,以及与差分隐私相关的技术,而这些研究我主要是与谷歌的同事合作进行的。

考虑到谷歌大脑和OpenAI以及相对较小的AI研究圈,Ian 应该一直都与谷歌大脑保持着联系。实际上,Ian 参与的一项获得了ICLR 2017 最佳论文奖的研究,就是他在OpenAI时与谷歌大脑合作完成的。

关于 Ian Goodfellow

深度学习大神Yoshua Bengio的学生,以第一作者的身份和Bengio、Allan Courville合著了“Deep Learning”这本书——是的,就是【那本】Deep Learning。

关于GAN

2014年,Ian Goodfellow 提出了生成对抗网络(GAN)的概念,此后GAN便成为了学术界的一个火热的研究热点,Yann LeCun更是称之为“过去十年间机器学习领域最让人激动的点子”。生成对抗网络的简单介绍如下,训练一个生成器(Generator,简称G),从随机噪声或者潜在变量(Latent Variable)中生成逼真的的样本,同时训练一个鉴别器(Discriminator,简称D)来鉴别真实数据和生成数据,两者同时训练,直到达到一个纳什均衡,生成器生成的数据与真实样本无差别,鉴别器也无法正确的区分生成数据和真实数据。GAN的结构如图1所示。

Ian Goodfellow在生成对抗网络(GAN)论文最后总结的几点:

优点

  • 模型只用到了反向传播,而不需要马尔科夫链;
  • 训练时不需要对隐变量做推断;
  • 理论上,只要是可微分函数都可以用于构建D和G,因为能够与深度神经网络结合做深度生成式模型;
  • G的参数更新不是直接来自数据样本,而是使用来自D的反向传播(这也是与传统方法相比差别最大的一条吧)。

缺点

  • 可解释性差,生成模型的分布 Pg(G)没有显式的表达。
  • 比较难训练,D与G之间需要很好的同步,例如D更新k次而G更新一次。

https://www.reddit.com/r/MachineLearning/comments/5y6uy8/d_did_ian_goodfellow_leave_openai/

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2017-03-10,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 新智元 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档