重磅 | 开发能够"想象"与"推理"的机器 -深度学习暑期班 ppt及视频

开发能够「想象」与「推理」的机器:深度生成模型的原理与应用(Building Machines that Imagine and Reason: Principles and Applications of Deep Generative Models)

abstract:

深度生成模型为无监督学习问题提供了一种解决方案,无监督学习这类机器学习系统需要从无标记的数据流中发现出隐藏的结构。因为这些模型是生成式的,所以它们能够对自己所应用的世界生成丰富的意象,后者可以探索数据中的变化,推理所在世界的结构和行为,并从根本上帮助制定决策。该辅导课将关注如何使用深度生成模型构建有想象力的机器学习系统,和它们所支持的概率推理类型,以及它们被应用到决策制定和行动的方式。

深度生成模型拥有广泛应用,包括密度估计、图象降噪和修复、数据压缩、景物理解、表征学习、3D 景物构造、半监督分类、分级控制等等。在探索这些应用之后,我们会对生成式模型有个大致概念,该模型有三种类别:完全记录模型、变换模型和潜变量模型。不同模型有不同的推理原则,我们会探索不同的可选项。不同模型与推理组合产生不同算法,包括自动回归分布估计、变分自动编码器和生成式对立网络。虽然我们会强调深度生成模型,特别是潜变量的那类,但该辅导课的目的是探索贯穿机器学习的一般原则、工具和技巧。被重复讨论的主题包括贝叶斯深度学习、变分近似法、memoryless and amortised inference、和随机梯度估计。最后我们会着重讨论那些之前没被讨论过的主题,并想象生成模型的未来。最后的参考资料分类非常清晰!生成模型大梳理!

机器学习的动机:科学发现、发现智能的本质.......

为什么是生成模型:

理解和想象世界

使用概念推理和决策

计划未来

一些主题:

概率模型

贝叶斯深度学习、推理

推理和机器人控制等

六大部分内容:

生成模型地图概览

学习和推理

算法构建工具

VAE实例 等

图像修复

半监督分类

图像压缩

3d生成

快速的环境理解

一次生成

环境模拟重建

控制特征的学习

视觉概念学习

高效环境探索,paper:https://arxiv.org/abs/1606.01868

行动计划

上面各方面内容的提纲

生成模型进展

图像质量越来越好


三种生成模型,z为隐变量

很多种推理方法!12种

整合模型和推理

cnn with sgd

VAE

RBM


三种生成模型,z为隐变量

马尔科夫模型

全观察模型特点

dcgan

隐变量模型,

容易包含层级等级和深度

容易编码结构信息


推理和学习

证据确立

预测

假设验证

采样

变分推理

双采样测试

生成学习测试


整合变分推理和隐变量模型到推理网络里面-VAE

推理是压缩的一种

两种方式微分的不同点

两种方式的不同名字


浏览不同类型的VAE模型

离散和连续

静态、序列、值

微分与不可微分

3种设计选择

实现变分算法

结构序列VAEs


科学发现、概念推理、计划、控制、


看视频和ppt下载链接:https://mp.weixin.qq.com/s?__biz=MzA3MzI4MjgzMw==&mid=2650718578&idx=1&sn=ff7d748b149e7952c9fa3b53cefd5afc&scene=25#wechat_redirect

原文发布于微信公众号 - CreateAMind(createamind)

原文发表时间:2016-08-26

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏腾讯技术工程官方号的专栏

ICML 2018 | 腾讯AI Lab详解16篇入选论文

10.7K20
来自专栏CDA数据分析师

提问 | 如何利用一批去年的数据,来预测未来三年的数据?

文 | 邹日佳 来自知乎 1、这批去年的数据是按月份的,本身肯定会有波动,但相对稳定。 2、预测未来三年的数据是需要具体到月份。恩 3、请问有什么统计方法可以做...

22890
来自专栏PPV课数据科学社区

人人都能读懂的无监督学习:什么是聚类和降维?

可以说机器学习已经成为了改变时代的大事,一时间似乎人人都应该懂一点机器学习。但机器学习涉及到的数学知识和编程能力往往让没有相关经验的人望而却步。YupTechn...

31340
来自专栏AI科技大本营的专栏

南开大学提出最新边缘检测与图像分割算法,精度刷新记录(附开源地址)

近日,南开大学媒体计算实验室提出的最新边缘检测和图像过分割(可用于生成超像素)被 IEEE PAMI 录用。研究的第一作者也发微博称:“这是第一个在最广泛使用的...

19910
来自专栏机器人网

学懂 12 个宝贵经验,更深入了解机器学习

华盛顿大学 Pedro Domingos 教授的“A Few Useful Things to Know about Machine Learning”这篇论文...

28550
来自专栏TensorFlow从0到N

TensorFlow从1到2 - 1 - 深度神经网络

上一主题《TensorFlow从0到1》介绍人工神经网络的基本概念与其TensorFlow实现,主要基于浅层网络架构,即只包含一个隐藏层的全连接(FC,F...

498110
来自专栏量子位

图像风格迁移(Neural Style)简史

作者:李嘉铭 Northwestern University | CS 量子位 已获授权编辑发布 面向读者:没有或有一定机器学习经验并对Prisma之类的app...

43570
来自专栏人工智能

AI的元学习之路

人类的智能的一个关键点在于能力多样性 —— 我们能胜任各种各样的任务。而目前的AI系统则擅长掌握单一技能,例如围棋,Jeopardy(美国的一档电视智力竞赛节目...

43580
来自专栏IT派

推荐 | 机器学习中的这12条经验,希望对你有所帮助

华盛顿大学 Pedro Domingos 教授的“A Few Useful Things to Know about Machine Learning”这篇论文...

12800
来自专栏AI科技评论

学界 | 腾讯 AI Lab 详解16篇 ICML 2018 入选论文

7月10日至15日,第 35 届国际机器学习会议(ICML 2018)将在瑞典斯德哥尔摩举行。ICML是机器学习领域最顶级的学术会议,今年共收到2473篇投递论...

17630

扫码关注云+社区

领取腾讯云代金券