十六 开发能够想象与推理的机器 -深度学习暑期班 ppt及视频

发能够「想象」与「推理」的机器:深度生成模型的原理与应用(Building Machines that Imagine and Reason: Principles and Applications of Deep Generative Models)

abstract:

深度生成模型为无监督学习问题提供了一种解决方案,无监督学习这类机器学习系统需要从无标记的数据流中发现出隐藏的结构。因为这些模型是生成式的,所以它们能够对自己所应用的世界生成丰富的意象,后者可以探索数据中的变化,推理所在世界的结构和行为,并从根本上帮助制定决策。该辅导课将关注如何使用深度生成模型构建有想象力的机器学习系统,和它们所支持的概率推理类型,以及它们被应用到决策制定和行动的方式。

深度生成模型拥有广泛应用,包括密度估计、图象降噪和修复、数据压缩、景物理解、表征学习、3D 景物构造、半监督分类、分级控制等等。在探索这些应用之后,我们会对生成式模型有个大致概念,该模型有三种类别:完全记录模型、变换模型和潜变量模型。不同模型有不同的推理原则,我们会探索不同的可选项。不同模型与推理组合产生不同算法,包括自动回归分布估计、变分自动编码器和生成式对立网络。虽然我们会强调深度生成模型,特别是潜变量的那类,但该辅导课的目的是探索贯穿机器学习的一般原则、工具和技巧。被重复讨论的主题包括贝叶斯深度学习、变分近似法、memoryless and amortised inference、和随机梯度估计。最后我们会着重讨论那些之前没被讨论过的主题,并想象生成模型的未来。最后的参考资料分类非常清晰!生成模型大梳理!

机器学习的动机:科学发现、发现智能的本质.......

为什么是生成模型:

理解和想象世界

使用概念推理和决策

计划未来

一些主题:

概率模型

贝叶斯深度学习、推理

推理和机器人控制等

六大部分内容:

生成模型地图概览

学习和推理

算法构建工具

VAE实例 等

图像修复

半监督分类

图像压缩

3d生成

快速的环境理解

一次生成

环境模拟重建

控制特征的学习

视觉概念学习

高效环境探索,paper:https://arxiv.org/abs/1606.01868

行动计划

上面各方面内容的提纲

生成模型进展

图像质量越来越好


三种生成模型,z为隐变量

很多种推理方法!12种

整合模型和推理

cnn with sgd

VAE

RBM


三种生成模型,z为隐变量

马尔科夫模型

全观察模型特点

dcgan

隐变量模型,

容易包含层级等级和深度

容易编码结构信息


推理和学习

证据确立

预测

假设验证

采样

变分推理

双采样测试

生成学习测试


整合变分推理和隐变量模型到推理网络里面-VAE

推理是压缩的一种

两种方式微分的不同点

两种方式的不同名字


浏览不同类型的VAE模型

离散和连续

静态、序列、值

微分与不可微分

3种设计选择

实现变分算法

结构序列VAEs


科学发现、概念推理、计划、控制、


阅读原文看视频,ppt下载地址:https://pan.baidu.com/s/1slb70A

原文发布于微信公众号 - CreateAMind(createamind)

原文发表时间:2016-09-26

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏AI科技评论

学界 | 腾讯 AI Lab 详解16篇 ICML 2018 入选论文

7月10日至15日,第 35 届国际机器学习会议(ICML 2018)将在瑞典斯德哥尔摩举行。ICML是机器学习领域最顶级的学术会议,今年共收到2473篇投递论...

17630
来自专栏机器之心

人人都能读懂的无监督学习:什么是聚类和降维?

选自Medium 作者:Vishal Maini 机器之心编译 参与:Panda 机器学习已经成为了改变时代的大事,一时间似乎人人都应该懂一点机器学习。但机器学...

322100
来自专栏AI科技大本营的专栏

ECCV 2018|商汤37篇论文入选,为你解读精选论文(附链接+开源资源)

【导读】9 月 8 日-14 日,每两年举办一次的 2018 欧洲计算机视觉大会(ECCV 2018)在德国慕尼黑召开,本次会议总共收到了 2439 篇有效的论...

47550
来自专栏机器学习算法与Python学习

推荐 | 机器学习中的这12条经验,希望对你有所帮助

华盛顿大学 Pedro Domingos 教授的“A Few Useful Things to Know about Machine Learning”这篇论文...

399150
来自专栏CDA数据分析师

提问 | 如何利用一批去年的数据,来预测未来三年的数据?

文 | 邹日佳 来自知乎 1、这批去年的数据是按月份的,本身肯定会有波动,但相对稳定。 2、预测未来三年的数据是需要具体到月份。恩 3、请问有什么统计方法可以做...

22890
来自专栏量子位

图像风格迁移(Neural Style)简史

作者:李嘉铭 Northwestern University | CS 量子位 已获授权编辑发布 面向读者:没有或有一定机器学习经验并对Prisma之类的app...

43670
来自专栏IT派

推荐 | 机器学习中的这12条经验,希望对你有所帮助

华盛顿大学 Pedro Domingos 教授的“A Few Useful Things to Know about Machine Learning”这篇论文...

12800
来自专栏腾讯技术工程官方号的专栏

ICML 2018 | 腾讯AI Lab详解16篇入选论文

10.7K20
来自专栏CreateAMind

重磅 | 开发能够"想象"与"推理"的机器 -深度学习暑期班 ppt及视频

11410
来自专栏机器学习算法与Python学习

推荐 | 掌握这12条经验,对理解机器学习至关重要

华盛顿大学 Pedro Domingos 教授的“A Few Useful Things to Know about Machine Learning”这篇论文...

14000

扫码关注云+社区

领取腾讯云代金券