WAE的推导与理解

想要理解WAE要说两个关键点

  1. 如前文所述,VAE是在优化两个分布间的距离
  2. 什么是wasserstein distance

首先说wasserstein distance

有了距离的定义,接下来就是定义分布之间的距离

最终就可以得到优化 表达式

然而如何去进行优化,估计分布之间的距离依旧是一个无法解决的问题。参考f-gan,可以使用类似的方式去求出距离,原始论文中也提到了MMD的方法,但使用gan-based的思路更加一以贯之。

伪代码如下

总体看来,如果理解了前文所诉的,VAE是在做距离的优化,那么WAE无非是使用了新的距离定义,使得隐变量空间具有更好的结构,同时借鉴了GAN的思路去估计prior与posterior之间的距离。

本文分享自微信公众号 - CreateAMind(createamind)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-10-09

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏PowerBI战友联盟

PowerBI 已集成 AI 功能 零代码人人可用

微软的使命是:赋能这个星球的每个人和组织,使他们获得更多。 你有感觉被微软赋能吗?如果你没有感觉到,那有两种可能:要么是你根本不知道不行动,要么是微软还需要努力...

10220
来自专栏汇智网教程

用sklearn流水线优化机器学习流程

在大多数机器学习项目中,你要处理的数据不大可能恰好是生成最优模型的理想格式。有很多数据变换的步骤例如分类变量编码、特征缩放和归一化需要执行。Scikit-lea...

9230
来自专栏Python数据科学

手把手教你入门和实践特征工程 的全方位万字笔记,附代码下载

(注:本节用到了两个数据集,分别是Salary_Ranges_by_Job_Classification 和 GlobalLandTemperaturesByC...

7410
来自专栏PowerBI战友联盟

饕餮盛宴:微软定义BI未来 新PowerBI全解读

2018 PASS峰会于 11.5~11.9 举行完毕,本文描述PASS峰会中有关PowerBI企业现代商务智能的进展以及未来展望,绝对震撼,超乎想象。

11310
来自专栏Python数据科学

80页笔记看遍机器学习基本概念、算法、模型,帮新手少走弯路

本文要介绍的是一份长约 80 页的学习笔记,旨在总结机器学习的一系列基本概念(如梯度下降、反向传播等),不同的机器学习算法和流行模型,以及一些作者在实践中学到的...

9010
来自专栏机器之心

AI提前18个月预测厄尔尼诺自然灾害,已登Nature和Science

可怕的厄尔尼诺每 2 到 7 年就会爆发一次,导致非洲南部出现干旱、南美野火肆虐以及北美太平洋海岸洪水泛滥,有效的厄尔尼诺预警能够减低经济损失。近日,韩国全南大...

11340
来自专栏汇智网教程

小白如何入门机器学习?

机器学习作为人工智能领域的一个重要主题,已经被大家关注相当一段时间了。机器学习提供了有吸引力的机会,进入这一领域工作并不像想像中那么困难。即使你在数学或编程方面...

11140
来自专栏PowerBI战友联盟

【必杀】免费体验 PowerBI Premium 旗舰版

PowerBI 战友联盟,是中国范围内由 PowerBI 从业者发起的专业学习现代商业智能的组织,我们以 PowerBI 为主题研究如何帮助企业和个人提升数字化...

12330
来自专栏大数据和机器学习

lda模型小记

lda模型是一个词袋模型,它认为一个文档由一组关键的词构成,这些词之间没有先后顺序,一篇文档可以有很多个主题,文档中的每个词都来自于这些主题中的其中一个。它是一...

13900
来自专栏机器之心

美人秀色空绝世,我用PS-GAN试伊妆

近日,北京航空航天大学和中国科学院大学等机构的研究者新提出的姿态稳健型空间可感知式 GAN(PSGAN),可以很方便地实现可定制化的妆容迁移,真可谓:美人秀色空...

23230

扫码关注云+社区

领取腾讯云代金券

年度创作总结 领取年终奖励