前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >生成式对抗网络——Gan(二)

生成式对抗网络——Gan(二)

作者头像
公众号guangcity
发布2019-09-20 11:40:09
4290
发布2019-09-20 11:40:09
举报
文章被收录于专栏:光城(guangcity)

生成式对抗网络——Gan(二)

今日知图

选中文本(可视模式)

代码语言:javascript
复制
v 可视模式 从光标位置开始按照正常模式选择文本
V 可视行模式 选中光标经过的完整行
ctrl+v 可视块模式 垂直方向选中文本
ggvG 选中所有内容

0.说在前面1.回顾及进阶2.生成器和判别器到底是什么?3.作者的话


0.说在前面

继续上一篇文章,也就是大家所看到的的本篇文章,下面是作者介绍!

川大本科软件工程刘瑞航,LeoLRH,研究方向,遥感图像相关融合,现在的目的就是尽量保研,Never to be the low, fight for the best!

本篇所有归属权为该作者所有!下面一起来看优秀本科生对生成对抗网络的学习!

1.回顾及进阶

上一篇文章中我们提到了gan网络即对抗神经网络的基本思路和一些有趣的思想。

所以在这篇文章中我们理解一下Gan网络的一些模型的理解以至于数学问题。

本篇文章推导和理解纯属笔者自己所做,如有问题欢迎批评,若有引用一定要进行声明

其实笔者认为所有的神经网络的应用其实都是都是判别式模型。为什么这么说呢?

我们简单的说所有模型应用都是给定一个输入,训练产生一个label输出。从直接对一个图片的分类到句子生成(这也是一个分类问题,我们的label是在词空间中,我们会去逐个学习来产生多词label)

而在这里我们学习的Gan就是我们拓展开来,用神经网络来构建一个生成式模型。就是一个生成器和一个判别器

  • 而在一个GAN中,我们构建两个不同的神经网络。 第一个网络是传统的分类网络叫判别器。 我们会用判别器来判断图片是真实的(属于训练集)还是假的(不在训练集中)。
  • 另一个网络,叫做生成器,会把随机噪音作为输入,然后用一个神经网络通过它生成图片。生成器的目标就是为了骗过判别器,让判别器以为生成的图片是真的。

在数学中我们可以把这个想成是一个最小最大博弈(minimax game)(联想一下那个开山公式), 生成器 (GG)反复的想要糊弄判别器,而判别器 (DD)则要努力的正确区分真实还是假的。

2.生成器和判别器到底是什么?

说起来挺高大上的东西剖析其本质,他们仅仅不过是一个概念,他们都属于supervised learning的模型。他们有什么区别呢?

在我们研究模型时在做一个决策的过程中:求的是[f(x)=]P(Y|X)的概率;x是样本,y是label

先说判别模型,其实他就是很傻的“算”就是给了你x,给了你y让你训练(无脑计算)(用神经网络等)然后得到像“x出现,y是什么的效果“。

这里从x到y的过程其实就是通过我们学习的算法(感知积,决策树,LF,Regression等)来实现求出这样的f(x)

总结一下就是给一个x,出y,给一个x,就出y……这个就是判别模型

而生成器就比判别器要求的高一些,不仅仅要求出f(x),我们的目的还要建立确定出x与y的关系。什么关系呢?

我们看下面公式

概率联合分布定理

(概率联合定理)

当我们前面的不好求时,转换成联合概率时会好算一些(通过频率算法可以将这个P求出来)也就是生成模型要做的是将不好求的P和f,转换成两个比较好求的东西(就是建立其中x,y的关系)

这个就是这两个的区别(笔者认为最通俗的理解方式了)。

然后再具体说一说探究一下生成模型

生成模型其实实在对抗生成模型前就已经提出来了。我们这里使用的生成模型只不过是其中最直接的生成模型。(生成模型可是个“大家族”)

生成模型由这两方面组成:包括密度预测(给一大堆散点)和样本生成(给你一些乱七八糟的东西生成一个类似的东西)

生成模型的”玩法“

而这里我们为什么要着重学习生成模型呢?

我想这个应该是goodfellow已经替我回答的很明白了

Ian goodfellow的2018PPT 对抗生成网络陈述

下一节我会列出一个简单的gan网络实现,并且用数学的方式好好剖析一下生成模型那个的数学原理(极大似然估计),通过那个来帮助大家理解gan网络的那个开山的公式

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2018-11-16,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 光城 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 生成式对抗网络——Gan(二)
    • 0.说在前面
      • 1.回顾及进阶
        • 2.生成器和判别器到底是什么?
        领券
        问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档