专栏首页有三AI【GAN优化】长文综述解读如何定量评价生成对抗网络(GAN)

【GAN优化】长文综述解读如何定量评价生成对抗网络(GAN)

欢迎大家来到《GAN优化》专栏,这里将讨论GAN优化相关的内容,本次将和大家一起讨论GAN的评价指标。

作者&编辑 | 小米粥

编辑 | 言有三

在判别模型中,训练完成的模型要在测试集上进行性能测试,然后使用一个可以量化的指标来表明模型训练的好坏,例如最简单的,使用分类准确率评价分类模型的性能,使用均方误差评价回归模型的性能。同样在生成模型GAN上也需要一个评价指标来量化GAN的生成效果。

1. 评价指标的要求

用于评价生成模型GAN优劣的指标不可能是任意的,它应当尽可能考虑一些要求。这里列出几条比较重要的要求:

(1) 能生成更为真实样本的模型应当得到更好的分数,也就是可评价样本的生成质量

(2)能生成更具有多样性样本的模型应当得到更好的分数,也就是可以评价GAN的过拟合、模式缺失、模式崩溃、简单记忆(即GAN只是简单记忆了训练数据集)等问题,即多样性。

(3)对于GAN的隐变量z,若有比较明确的“意义”且隐空间连续,那么可控制z得到期望的样本,这样的GAN应该得到更好的评价。

(4)有界性,即评价指标的数值最好具有明确的上界、下界。

(5)GAN通常被用于图像数据的生成,一些对图像的变换并不改变语义信息(例如旋转),故评价指标对某些变换前后的图像不应有较大的差别。

(6)评价指标给出的结果应当与人类感知一致。

(7)计算评价指标不应需要过多的样本,不应有较大的计算复杂性。考虑到实际情况,这些要求往往都不能同时得到满足,各个不同的指标也是各有优缺。

2. IS系列

2.1 Inception Score

Inception Score指标适用于评价生成图像的GAN。评价指标首先要评价GAN生成图像的质量好坏,但是图像质量是一个非常主观的概念,不够清晰的宠物狗的图片和线条足够明晰但“很奇怪”的图片均应算作低质量的图片,但计算机不太容易认识到这个问题,最好可以设计一个可计算的量化指标。

IS(Inception Score)采用了这样的做法,将生成的图片x送入已经训练好Inception模型,例如Inception Net-V3,它是一个分类器,会对每个输入的图像输出一个1000维的标签向量y,向量的每一维表示输入样本属于某类别的概率。假设我们的Inception Net-V3训练得足够好,那么对质量高的生成图像x,Inception Net-V3可将其以很高的概率分类成某个类,分类器输出y的数值比较集中,形如[0.9,...,0.02,0]。我们可以使用熵来量化该指标,分布p(y|x)相对于类别的熵定义为

其中,p(yi|x)表示x属于第i类的概率,即yi值,为了避免歧义,计算方式展示如下图所示:

熵是一种混乱程度的度量,对于质量较低的输入图像,分类器无法给出明确的类别,其熵应比较大,而对于质量越高的图像,不确定性减少,其熵应当比较小,当p(y|x)为one-hot分布时,熵达到最小值0。

IS考虑的另一个度量指标即样本的多样性问题,若GAN产生的一批样本{x1,x2,...,xn}多样性比较好,则标签向量{y1,y2,...,yn}的类别分布也应该是比较均匀的,也就是说不同类别的概率基本上是相等的(当然这里要假设训练样本的类别是均衡的),则其均值应趋向均匀分布,如下图所示。

又因为

故可使用标签向量y关于类别的熵来定量描述,若生成样本的多样性好(涵盖的类别多),则p(y)相对于类别的熵越大;生成样本的多样性差,则p(y)相对于类别的熵越小,其中定义p(y)相对于类别的熵为

其中,p(yi)表示第i类的概率,即yi值。

将图像质量和多样性两个指标综合考虑,可以将样本和标签的互信息I(x,y)设计为生成模型的评价指标,互信息描述了给定一个随机变量后,另一个随机变量的不确定性减少程度。又被称为信息增益,即

又根据

KL散度表示两个分布的差值,当KL散度值越大时,表示两个分布的差异越大;KL散度值越小,分布的差异越小,对所有样本,计算KL散度求平均,本质上来讲,指标还是通过信息增益来评价。为了便于计算,添加指数,最终的IS定义成如下形式:

实际计算IS时,使用的计算式子为:

对于p(y)的经验分布,使用生成模型产生N个样本,将N个样本送入分类器得到N个标签向量,对其求均值且令

对于KL散度,计算方式如下:

2.2 IS的缺陷

IS作为GAN的评价指标,自2016年提出以来,已经具备了比较广泛的接受程度,但也有一些不可忽略的问题和缺陷。(1)当GAN发生过拟合时,生成器只“记住了”训练集的样本,泛化性能差,但是IS无法检测到这个问题,由于样本质量和多样性都比较好,IS仍然会很高。(2)由于Inception Net-V3是在ImageNet上训练得到的,故IS会偏爱ImageNet中的物体类别,而不是注重真实性。GAN生成的图片无论如何逼真,只要它的类别不存在于ImageNet中,IS也会比较低。(3)若GAN生成类别的多样性足够,但是类内发生模式崩溃问题,IS无法探测。(4)IS只考虑生成器的分布pg而忽略数据集的分布pdata。(5)IS是一种伪度量。(6)IS的高低会受到图像像素的影响。以上这些问题限制了IS的推广,接下来我们列出几种IS的改进版本。

2.3 Mode Score

MS(Mode Score)是IS的改进版本,考虑了训练数据集的标签信息,其定义为:

其中,p*(y)表示经过训练数据集的样本得到的标签向量的类别概率,p(y )表示经过GAN生成样本得到的标签向量的类别概率。MS关注的还是样本质量与种类多样性的问题,可以证明其与IS是等价的。

2.4 Modifified Inception Score

m-IS(Modifified Inception Score)重点关注了类内模式崩溃的问题,例如使用ImageNet训练好的GAN可以均匀生成1000类图像,但是在每一类中,只能产生一种图像,也就是生成的苹果图像永远张一个样子,但是GAN的生成质量和类别多样性是完全没有问题的。m-IS对于同一类样本的标签计算了交叉熵:

其中xi,xj均为同一类别的样本,其类别由Inception Net-V3的输出结果决定。将类内交叉熵考虑进IS可得m-IS,即

可以看出,m-IS评价的是GAN的生成质量和类内多样性。当m-IS分数越大时,GAN生成性能越好。

2.5 AM Score

AMS(AM Score)的考虑是:IS假设类别标签具有均匀性,在1000类图像中,生成模型GAN生成每一类的概率是大致相等的,故可使用y相对于类别的熵来量化该项,但当训练数据在类别分布中不均匀时,IS评价指标是不合理的,更为合理的选择是计算训练数据集的类别标签分布与生成数据集的类别标签分布的KL散度,即

其中,p*(y)表示经过训练数据集的样本得到的标签向量的类别概率,p(y )表示经过GAN生成样本得到的标签向量的类别概率,关于样本质量的一项保持不变,则AMS的表达式为:

显然,当AMS分数越小时,GAN生成性能越好。

在所有IS系列的评价指标中,务必要保持一致性。也就是说,若使用ImageNet训练GAN,那么评价GAN所需要的分类器(如Inception V3)也必须是在ImageNet上训练的,否则无效。

3. FID

FID(Fréchet Inception Distance)是一种评价GAN的指标,于2017年提出,它的想法是这样的:分别把生成器生成的样本和判别器生成的样本送到分类器中(例如Inception Net-V3或者其他CNN等),抽取分类器的中间层的抽象特征,并假设该抽象特征符合多元高斯分布,估计生成样本高斯分布的均值μg和方差Σg,以及训练样本的均值μdata和方差Σdata ,计算两个高斯分布的弗雷歇距离,此距离值即FID:

最后将FID作为评价指标。示意图如下,其中虚线部分表示中间层

FID的数值越小,表示两个高斯分布越接近,GAN的性能越好。实践中发现,FID对噪声具有比较好的鲁棒性,能够对生成图像的质量有比较好的评价,其给出的分数与人类的视觉判断比较一致,并且FID的计算复杂度并不高,虽然FID只考虑了的样本的一阶矩和二阶矩,但整体而言,FID还是比较有效的,其理论上的不足之处在于:高斯分布的简化假设在实际中并不成立。

4. MMD

MMD(Maximum Mean Discrepancy)在迁移学习中具有非常广泛的应用,它是在希尔伯特空间中对两个分布的差异的一种度量,故可以考虑使用MMD度量训练数据集分布 pdata和生成数据集分布pg的距离,然后使用这个距离作为GAN的评价指标。若MMD距离越小,则表示pdata和pg越接近,GAN的性能越好。

计算MMD时,首先选择一个核函数K(x,y) ,它将两个样本映射为一个实数,例如多项式核函数:

高斯核函数 :

则MMD距离为:

不过实际计算时,我们不可能遍历所有样本求期望,而需要使用批量样本估计MMD值,对于来自于训练样本集的n个样本x1,x2,...,xn和来自于生成器生成的n个样本y1,y2,...,yn,MMD的估算值为:

由于MMD是使用样本估计的,即使pdata和pg完全相同,估算得到MMD也未必等于零。MMD在评价GAN时表现还是比较好的,并且计算复杂度也不高。

5. Wasserstein Distance

Wasserstein距离又称earth-mover距离、推土机距离,与MMD类似,它也是两个分布的差异的一种度量,故也可以作为GAN的评价指标。若Wasserstein距离越小,则表示pdata和pg越接近,GAN的性能越好。在性能优越的WGAN中,便是先通过判别器(critic)学习两个分布的Wasserstein距离,再以最小化Wasserstein距离为目标函数来训练生成器的。

当把Wasserstein距离作为评价指标时,需要先有一个已经训练好的判别器D(x),对于来自于训练样本集的n个样本x1,x2,...,xn和来自于生成器生成的n个样本y1,y2,...,yn,Wasserstein距离的估算值为:

这个评价指标可以探测到生成样本的简单记忆情况和模式崩溃情况。不过需要注意,由于使用Wasserstein距离作为评价指标需要依赖判别器和训练数据集,故它只能评价使用特定训练集训练的GAN,例如对使用苹果图像训练集训练得到判别(critic),它无法评价橘子图像生成器的性能,故也具有一定的局限性,这与MMD有着明显区别,MMD不需要通过神经网络学习分布间的距离,拥有更大的自由。

6. 1-Nearest Neighbor Classifier

1-Nearest Neighbor Classifier的基本想法是,希望计算判定出pdata和pg是否相等,若相等则证明生成模型GAN是优秀的,若差距比较大则说明GAN是比较差的。做法如下,对于来自于训练样本集概率分布pdata的n个样本x1,x2,...,xn和来自于生成器概率分布pg的n个样本y1,y2,...,yn,计算使用1-NN的LOO(leave-one-out)的准确率,并使用准确率作为评价指标。

具体地说,将x1,x2,...,xn和y1,y2,...,yn以及它们对应的标签组合成新的样本集合D,D里共包括2n个样本,使用留一交叉验证的方法,将D中的样本分成两份D1和D2,D1有2n-1个样本, D2只有一个样本,使用D1训练1-NN二分类器,在D2中进行验证计算正确率(0%或100%)。每次D2选择不同的样本,将上述过程循环2n次,计算总体的分类正确率,并将总体正确率作为GAN的评价指标。

如果x1,x2,...,xn和y1,y2,...,y来自于同一概率分布(即pdata等于pg),且样本数量比较大,则1-NN分类器无法将其很好的分开,其结果接近于随机猜测,总正确率接近50%,如下图所示:

当GAN发生简单记忆的问题,即生成器生成的样本与训练样本完全一样,则任意测试样本在1-NN上的正确率都为0%,因为存在一个与测试样本距离为0的样本,但两者的类别标签相反,故总体正确率为0%,如下图所示:

极端的情况,当生成器生成样本与训练集样本差异很大时,即GAN生成效果很不好时,任意测试样本在1-NN上的正确率都为100%,因为1-NN完全可以进行准确的分类,则整体准确率也为100%,如下图所示:

当1-Nearest Neighbor Classifier的总正确率接近50%时,说明生成器的性能越好。另外说明,这里选择1-NN作为二分类器的原因是,1-NN结构简单,计算方便且不含任何超参数。

7. GANtrain and GANtest

在GANtrain和GANtest中,并没有设计给出可量化的评价指标,而是计算几个指标并进行对比分析,从而评价GAN的性能,这里评价的是可生成多类别样本的GAN。

定义训练样本集St,验证集Sv以及由GAN生成的样本集 Sg,接下来(1)在训练集St上训练分类器并在验证集Sv上计算准确率,将准确率记为GANbase。(2)在生成集Sg上训练分类器并在验证集Sv上计算准确率,将准确率记为GANtrain。(3)在训练集St上训练分类器并在生成集Sg上计算准确率,将准确率记为GANtest。

比较GANbase和GANtrain,当GAN存在问题时,GANtrain要小于GANbase,可能因为生成集Sg相比训练集St发生了模式丢失,或者生成样本不足够真实让分类器学到相关特征,或者GAN没有将类别分得很开,产生类别混合等,原因可能有很多。当GANtrain与GANbase接近时,说明GAN生成图像质量高,和训练集有相似的多样性。

比较GANbase和GANtest,理想情况下,两者数值应该接近。如果GANtest非常高,那么说明GAN过拟合,发生简单记忆的问题。如果GANtest很低,则说明GAN没有很好的数据集分布,图像质量不高。GAN-test准确率大致衡量了生成图像和数据流形的距离的远近。

8. NRDS

NRDS(Normalized Relative Discriminative Score)可以用于多个GAN模型的比较,其基本的想法是:实践中,对于训练数据集和GAN生成器生成的样本集,只要使用足够多的epoch,总可以训练得到一个分类器C,可以将两类样本完全分开,使得对训练数据集的样本,分类器输出趋于1,对GAN生成的样本,分类器输出趋于0。但是,若两类样本的概率分布比较接近(即GAN生成效果比较好),则需要更多次数的epcoh才能将两类样本完全区分开;反之,对于较差的GAN生成效果,不需要训练分类器C多少次epoch,就可将两类样本完全分开。

如上图所示,在每个epoch中,对于n个GAN,分别从其中采样得到n批生成样本(虚假样本),将其与训练集样本(真实样本)以及对应的标签一起送入分类器C,然后使用分类器分别在n批虚假样本上测试,记录n个分类器的输出结果output(结果应为批次的平均值)。训练足够多的epoch次数,使分类器对真实样本输出几乎为1,对虚假样本输出几乎为0,这时对n个GAN,做n条epoch-output曲线,分别记为Ci,估算曲线下围成的区域的面积,分别记为A(Ci),如下图阴影部分

最后分别计算NRDS:

则NRDS的值越大,说明将两个分布完全分开的“损耗”越大,则表明对应的GAN的pg更接近pdata。

9. Image Quality Measures

在该类评价指标中,我们直接对图像本身的质量进行量化,而不像IS借助Inception V3或训练其他神经网络等手段,这里已经提出不少相关指标,典型代表有SSIM, PSNR和Sharpness Difference。

9.1 Structural SIMilarity

SSIM(Structural SIMilarity)是对两个图像样本x和y之间的亮度l(x,y)、对比度c(x,y) 、结构s(x,y)三个方面进行比较衡量,可理解为一个描述了两幅图像相似度的评价指标,其中亮度为:

对比度为:

结构为:

其中,μx,μy,σx,σy,σxy分别为x,y的局部均值、方差和协方差。而C1,C2,C3是为了避免除数为0而取的常数,一般地,可取

计算整幅图像的SSIM值可计算每个图像块的SSIM求平均。SSIM具有对称性,当两个图像完全相同时,SSIM值达到最大值1。

9.2 Peak Signal-to-Noise Ratio

PSNR(Peak Signal-to-Noise Ratio)即峰值信噪比,也用于评价图像质量,例如可在条件GAN中,可将某类别中训练集里的图像与条件生成的图像进行对比评价,从而评价条件GAN的生成效果。

例如对两幅图像I和K ,计算其均方误差:

然后计算峰值信噪比为:

其中,MAX为图片可能的最大像素值,例如灰度图像中为255。若为彩色图像,可计算RGB三通道的PSNR然后取均值;或计算三通道MSE并除以3,再计算PSNR。显然,PSNR值越大,说明两张图像差别越小,则生成的图像的质量越好。

9.3 Sharpness Difference

SD(Sharpness Difference)与PSNR计算方式类似,但其更关注锐度信息的差异。例如对两幅图像I和K ,计算其锐度差异:

其中,

然后计算SD为:

其中,MAX为图片可能的最大像素值,与上述相同。显然,SD值越大,说明两张图像锐度差别越小,则生成的图像的质量越好。

10. Average Log-likelihood

之前提到的方法,我们都将生成器视为一个产生样本的黑盒子,并没有直接与去概率密度函数pg打交道,这也是由于GAN的隐式概率模型的设计机制决定的。但如果能有一个pg的表达式,最直接的评价指标应当是:计算训练集的样本在pg下的对数似然函数(也可认为是计算KL散度,两者等价),对数似然函数越大则说明生成器越好,如下

这里的问题在于,如何得到pg的表达式或者近似表达式?一种方法是使用非参数估计的,例如使用KDE(Kernel Density Estimation)方法,对于样本x1,x2,...,xn,估计得到的概率密度函数p*为:

Z为归一化常数,其中核函数可定义为高斯核函数、均匀核函数、三角核函数等,自由选取。得到近似的概率密度函数后,便可计算对数似然,并使用其作为评价指标。

但是根据实际情况,其评价效果并不理想,主要有如下问题:面临高维分布,非参数难以得到比较准确的概率密度函数的估计,另外对数似然函数与样本的质量并不存在明显的相关关系,有些不好的GAN可以给出很高的对数似然值但样本质量依旧很差。

在这篇中,我们展示了五花八门的GAN评价指标,实际上还有更多,我们仅仅展示了一部分。根据实验的比较结果,并没有存在哪一个评价指标在各方面都可以完胜其他评价指标,也不存在哪一个指标可以在第一篇文章中提出的7个要求中都得到很好的满足,但是也确实存在部分指标的整体质量完全超越另一个的情况。故在选择GAN的评价指标时,应根据实际场景要求选择指标,或者组合选择几个指标从不同角度考察GAN的生成效果。

[1]Bissoto A , Valle E , Avila S . The Six Fronts of the Generative Adversarial Networks[J]. 2019.

[2]Borji A . Pros and cons of GAN evaluation measures[J]. Computer Vision and Image Understanding, 2018.

[3]A Note on the Evaluation of Generative Models.2016

总结

这一篇讲解了GAN的评价指标应该满足的要求,并重点讲解了IS的计算方式以及IS的其他改进,FID,MMD和Wasserstein, Distance1-Nearest Neighbor Classifier,GANtrain和GANtest,NRDS,SSIM,PSNR,SD,对数似然评价指标等,并在最后对GAN的评价指标做了简单的评述。

如何系统性学习GAN

有三AI公众号输出了大量的GAN相关的内容,关于如何系统性学习GAN,请大家参考往期文章。

【杂谈】如何系统性地学习生成对抗网络GAN

在有三AI知识星球网络结构1000变中包含大量GAN的各类应用和实战相关的内容,一些案例如下,感兴趣可以深入学习了解。

转载文章请后台联系

侵权必究

本文分享自微信公众号 - 有三AI(yanyousan_ai),作者:小米粥

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2020-02-25

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 【GAN优化】如何选好正则项让你的GAN收敛

    今天讲述的内容还是GAN的训练,也是最后一期,做几个简单的小实验,告诉大家怎么给GAN加正则项,使得你的GAN尽可能收敛。其实今天的内容本来还是与动力学结合很紧...

    用户1508658
  • 【杂谈】GAN最成功的3个商业化落地领域,你是否了解过?

    2015年的时候笔者开始关注GAN,公众号早期的文章中就有GAN的综述,这些年GAN的相关研究也是持续井喷。这一次咱们学术上的研究撇开不讲,这么多年过去了,GA...

    用户1508658
  • 【GAN优化】GAN优化专栏上线,首谈生成模型与GAN基础

    在机器学习或者深度学习领域,生成模型具有非常广泛的应用,它可以用于测试模型的高维概率分布的表达能力,可以用于强化学习、半监督学习,可以用于处理多模输出问题,以及...

    用户1508658
  • GAN最新进展:8大技巧提高稳定性

    生成对抗网络 (GAN) 是一类功能强大的神经网络,具有广泛的应用前景。GAN 本质上是由两个神经网络组成的系统——生成器 (Generator) 和鉴别器 (...

    新智元
  • BGAN:支持离散值、提升训练稳定性的新GAN训练方法

    首先,让我们温习一下GAN(对抗生成网络)的概念。简单来说,GAN是要生成“以假乱真”的样本。这个“以假乱真”,用形式化的语言来说,就是假定我们有一个模型G(生...

    崔庆才
  • RS Meet DL(75)-考虑CPM的评估方法csAUC

    在点击率预估中,AUC是最常用的评估指标,这一指标衡量的是任取一个正例和负例,正例的得分高于负例的概率。那么点击率预估中,正例和负例分别是什么呢?很显然,正例就...

    石晓文
  • CVPR2020 | 京东AI研究院提出统一样本加权网络,提升通用目标检测性能

    论文地址:https://arxiv.org/pdf/2006.06568.pdf

    AI算法修炼营
  • 机器学习常用性能度量中的Accuracy、Precision、Recall、ROC、F score等都是些什么东西?

    为什么有了Accuracy还要提出Precision的概念呢?因为前者在测试样本集的正负样本数不均衡的时候,比如正样本数为1,负样本数为99时,模型只要每次都将...

    程序员一一涤生
  • 机器学习常用性能度量中的Precision、Recall、ROC、F score等都是些什么东西?

    为什么有了Accuracy还要提出Precision的概念呢?因为前者在测试样本集的正负样本数不均衡的时候,比如正样本数为1,负样本数为99时,模型只要每次都将...

    程序员一一涤生
  • 【小白学AI】八种应对样本不均衡的策略

    分类(classification)问题是数据挖掘领域中非常重要的一类问题,目前有琳琅满目的方法来完成分类。然而在真实的应用环境中,分类器(classifier...

    机器学习炼丹术

扫码关注云+社区

领取腾讯云代金券