年度必看AI论文:生成式非对抗网络(停止对抗,用爱学习)

震惊!(本次使用已获UC震惊部授权)

就在昨天,人工智能领域一个开创性的成果出现了:关于生成对抗网络(GAN)的最新论文出炉。很多学者和业内人士,都用震惊二字描述内心的波澜。

这篇已经在arxiv上公布的论文,题目是:《STOPPING GAN VIOLENCE: GENERATIVE UNADVERSARIAL NETWORKS》,并且已经作为会议论文提交SIGBOVIK 2017评审。这个大会将于3月31日在卡内基梅隆大学召开。

在Reddit上,有人评价这篇是自己近年唯一从头到尾读完的论文。这么重要的论文,量子位看过之后,赶紧跑来跟大家分享笔记。

核心摘要

神经网络苦对抗久矣。吾闻生成对抗网络(GAN)暴力也,不当立,当立者乃生成式非对抗网络(GUN)。在这一框架下,我们同时训练两个模型。

一个是生成器G,用以捕捉任何自认可以处理的任一数据分布。一个是激励器M,鼓励G努力奋斗。在奋斗的过程中,两个模型通过学习各自的差异而演变。

这个框架的理论基础是博弈论,并且可以看做是双赢的结构,两个模型结成团队以争取最佳结果。整个模型的原理如下:

论文作者特别提示:低分辨率、远距离条件下观看效果更佳

生成器G提出样本:PROPS,作为回应,激励器M给出确认和赞美:ACKS。这样两个网络之间就产生了协同效应。

而此前的生成对抗网络,要求生成器G和鉴别器D不断对抗。

训练过程如图所示:(图a) 在激励器(红线)的帮助下,生成器(黄线)正为目标数据分布(蓝色虚线)而努力。 (图b) 激励得当的情况下,生成器完成目标。 (图c) 在激励器的鼓舞下,生成器还能额外做出10%的努力,这不是错误,而是激励有效的证明。

在经过叨逼叨逼的试验后,结论如下:

这项研究表明,GAN这种一个神经网络对另一个神经网络施加暴力的行为,不仅不道德而且不必要。试验显示,更幸福的网络性能更好。事实上,非对抗式学习在深度学习的广阔天地中,必将大有作。下一步的研究将纳入梯度等问题。

拜见作者

如此令人心旷神怡的论文,由三位作者合作完成。他们是:

半路出家,文笔一流君Samuel

云山雾罩,自学成才君Sebastien

微小贡献,强行采访君Joao

以上。

延伸

还记得开头说的SIGBOVIK 2017大会么?这个大会2007年首次召开,组织方是SIGBOVIK,也是一个脑洞大开的组织。欢迎实在很闲的情况下自行搜索……

原文发布于微信公众号 - 量子位(QbitAI)

原文发表时间:2017-03-09

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏新智元

ICLR-17最全盘点:PyTorch超越TensorFlow,三巨头Hinton、Bengio、LeCun论文被拒,GAN泛滥

【新智元导读】机器学习&深度学习盛会 ICLR 2017 落下帷幕。本届会议都有哪些亮点?体现了哪些技术变化及趋势?对整个 AI 业界有什么影响?新智元为你带来...

507120
来自专栏人工智能头条

想学AI?没那么简单、但也没那么难!(内附技术图谱)

11340
来自专栏AI科技大本营的专栏

【干货】人工智能工程师的三个层次(附技术学习路线图)

作者 | 智亮 Google Tensorflow框架的Contributor。在计算机视觉领域有深厚的工业经验,带领团队开发的“花伴侣”植物识别App,上线数...

51150
来自专栏黄成甲

数据挖掘那些事

统计学、数据挖掘与机器学习是近年来经常一起出现的3个词语,尤其是数据挖掘与机器学习。有些人认为数据挖掘涵盖了机器学习,有些人认为机器学习应该包含数据挖掘,各种说...

8910
来自专栏新智元

【干货】二值神经网络:让 AlphaGo 能在手腕运行

赢得围棋人机大战的AlphaGo为了运行神经网络,用了280块GPU,功率超过一百个李世石[1]。 这种使用浮点计算的神经网络要求的大存储空间和大计算量,严重阻...

459160
来自专栏量子位

Hinton反思新作:我说反向传播不好,但还是没谁能颠覆它

14630
来自专栏新智元

2018 COCO 竞赛中国团队包揽所有冠军,旷视 4 项第一!

MS COCO 的全称是常见物体图像识别(Microsoft Common Objects in Context),起源于是微软于2014年出资标注的Micro...

13250
来自专栏机器学习算法与Python学习

800万中文词,腾讯AI Lab开源大规模NLP数据集

10 月19 日,腾讯 AI Lab 宣布开源大规模、高质量的中文词向量数据。该数据包含 800 多万中文词汇。

21430
来自专栏IT派

一文厘清机器学习、深度学习、统计与概率论的区别

除了风格与Supervised/Unsupervised Learning截然不同的Reinforcement Learning以外,大家虽然知道机器学习已不再...

12100
来自专栏华章科技

数据科学家最常用的十种算法(KDnuggets官方调查)

最新一期的 KDnuggets 调查展示了一份数据科学家使用度最高的算法列表,这份列表中包含了很多惊喜,包括最学术的算法和面向产业化的算法。

8540

扫码关注云+社区

领取腾讯云代金券