115页Slides带你领略深度生成模型(Deep Generative Model)全貌

【导读】当地时间 7 月 13 - 19 日,备受关注的 AI 顶级国际会议 IJCAI 在瑞典斯德哥尔摩举行。在这次会议上,人工智能和机器学习领域的研究者为我们呈现了这一领域的研究前沿,其中包括:约束学习Constraint Learning、生成对抗网络(GAN)、博弈论、AI伦理等等,呈现出很强的多样性;与此同时,一些资深研究者也带来了一些极具看点和启发价值的演讲和教程,本文为大家带来了斯坦福大学PH.D Aditya Grover同学的深度生成模型tutorial,希望对大家的学习有所帮助。

作者 | Aditya Grover, Stefano Ermon

编译 | Yongxi

摘要

生成模型是图模型与概率编程语言中概率推理的核心范例,最近由于神经网络在参数化方面的改进、以及基于梯度随机优化方面的进展,使得可以对高维数据进行跨模态建模。

本教程的前半部分,将全面介绍深度生成模型,包括生成对抗网络、变分自编码器以及自回归模型。对于每一个模型,我们都将深入探讨各自的概率公式、学习算法、以及与其他模型的关系。后半部分将演示一组具有代表性的推理任务,展示深度生成网络在其中的应用。最后,我们将讨论堂前领域面临的挑战,并展望未来的研究方向。

目录

第一部分:

  • 生成模型的动机,以及与判别模型的对比
  • 生成模型的定义、特征、估计密度、模拟数据、学习表示
  • 传统生成模型方法,以及深度网络在参数化方面的作用
  • 基于学习算法的生成模型分类,基于相似点的学习和无相似点的学习
  • Likelihood-based学习实例
  • 自回归模型
  • 变分自编码器

第二部分:

  • Likelihood-based学习实例(续)
  • 规范化流模型
  • Likelihood-free 学习实例
  • 生成对抗网络
  • 深度生成模型的实例
  • 半监督学习
  • 模仿学习
  • 对抗样本
  • 压缩感知
  • 关于生成模型未来研究的主要挑战和展望。

请关注专知公众号(扫一扫最下面专知二维码,或者点击上方蓝色专知),

  • 后台回复“TDGM” 就可以获取115页深度生成模型 PPT 下载链接~

原文链接:

https://ermongroup.github.io/generative-models/

附PPT:

-END-

原文发布于微信公众号 - 专知(Quan_Zhuanzhi)

原文发表时间:2018-07-25

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏企鹅号快讯

PyMC3和Theano代码构建贝叶斯深度网络,61页PPT探索贝叶斯深度学习以及实现

【导读】近日,Novartis的数据科学家Eric J. Ma进行了一次关于贝叶斯深度学习理论和实现的演讲,演讲题目是《An Attempt At Demyst...

3167
来自专栏机器之心

NAACL 2018 | 最佳论文:艾伦人工智能研究所提出新型深度语境化词表征

预训练词表征(Mikolov et al., 2013; Pennington et al., 2014)是很多神经语言理解模型的关键部分。然而,学习高质量词表...

1550
来自专栏ATYUN订阅号

【学术】以精确性来提高对机器学习的信任

传统的机器学习工作流程主要集中在模型训练和优化上,最好的模型通常是通过像精确或错误这样的性能度量来选择的,我们倾向于假定一个模型如果超过了这些性能标准的某些阈值...

2927
来自专栏大数据挖掘DT机器学习

文本特征提取方法研究

一、课题背景概述 文本挖掘是一门交叉性学科,涉及数据挖掘、机器学习、模式识别、人工智能、统计学、计算机语言学、计算机网络技术、信息学等多个领域。文本挖掘就是从大...

1.1K13
来自专栏目标检测和深度学习

学界 | 结合主动学习与迁移学习:让医学图像标注工作量减少一半

选自arXiv 作者:Zongwei Zhou, Jae Y. Shin, Suryakanth R. Gurudu, Michael B. Gotway, 梁...

3315
来自专栏机器之心

学界 | 结合主动学习与迁移学习:让医学图像标注工作量减少一半

4036
来自专栏新智元

ResNet可能是白痴?DeepMind给神经网络们集体测智商

【新智元导读】DeepMind提出了一种让神经网络进行抽象推理的新方法,类似人类的IQ测试。结果发现经典模型如ResNet得分极低,数据稍有改动就变“白痴”,而...

1030
来自专栏数据科学与人工智能

【陆勤学习】文本特征提取方法研究

一、课题背景概述 文本挖掘是一门交叉性学科,涉及数据挖掘、机器学习、模式识别、人工智能、统计学、计算机语言学、计算机网络技术、信息学等多个领域。文本挖掘就是从大...

2809
来自专栏腾讯技术工程官方号的专栏

NIPS2018 | 腾讯AI Lab入选20篇论文,含2篇Spotlight

? 被誉为神经计算和机器学习领域两大顶级会议之一的NIPS于近日揭晓收录论文名单,此次为第32届会议,将于 12 月 3 日至 8 日在加拿大蒙特利尔举办。 ...

13.5K3
来自专栏AI科技评论

深度丨贝叶斯机器学习到底是什么?看完这篇你就懂啦

AI 科技评论按:不少人都在机器学习的过程中听说过贝叶斯分类器,但它是如何与机器学习建立联系的?作者Zygmunt Zając 提供了一些基础概念,AI 科技评...

4105

扫码关注云+社区

领取腾讯云代金券