Probabilistic decoder, Bayesian neural network, Probabilistic encoder

Probabilistic decoder, Bayesian neural network, Probabilistic encoder

最近在看概率模型,看到这三种模型的时候老是分不开谁是谁,在此做个总结加强记忆。

Probabilistic decoder

Probabilistic decoder 的概率图模型 Probabilistic decoder是通过coding theorylikelihood

进行重新解释。

是一个条件概率分布,条件z^n 被解释成 x^n 的隐含表示。称作 Probabilistic decoder 的原因是,给定 z^n,解码出来的 x^n 也是随机的。

对于实数来说:

NN(zn;θ)NN(z^n;\theta) 是一个神经网络,输入是 znz^n, 参数是 θ\theta。 Probabilistic decoder 使用神经网络的输出作为 p(xn)p(x^n) 的参数。

NOTE: The neural network which parameterizes the probabilistic decoder is also known as a generative network

如何 inference Probabilistic decoder? 1. variational inference 2. MAP 3. ML

Bayesian neural network

是一个概率模型,Bayesian neural network 是一个参数带先验分布的神经网络。即:参数是分布的神经网络。

Bayesian neural network 的概率图模型 如何 inference bayesian neural network? 1. variational inference 2. …

Probabilistic encoder

最后一个. probabilistic encoder 又叫 inference network,也叫 recognition modelProbabilistic decoder是概率模型,而 probabilistic encoder 是一个变分推断模型,使用神经网络的输出作为

分布的参数,W 是神经网络的参数。

这个和上面那个图不一样的地方是,上面那个图 W 是随机变量, 而这个图的 W 是模型参数

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏数据科学与人工智能

【机器学习】机器学习算法之旅

在理解了我们需要解决的机器学习问题之后,我们可以思考一下我们需要收集什么数据以及我们可以用什么算法。本文我们会过一遍最流行的机器学习算法,大致了解哪些方法可用,...

2209
来自专栏mwangblog

遗传算法解决旅行商问题(TSP)二:选择、交叉和变异

随机选择两个个体,再随机选择一段基因进行交换,以完成交叉操作。交叉后可能会产生冲突(访问同一个城市两次),保持交换的基因段(之后简称为交换段)不变,取得冲突基因...

752
来自专栏Python小屋

Python+sklearn使用线性回归算法预测儿童身高

问题描述:一个人的身高除了随年龄变大而增长之外,在一定程度上还受到遗传和饮食以及其他因素的影响,本文代码中假定受年龄、性别、父母身高、祖父母身高和外祖父母身高共...

3483
来自专栏大数据挖掘DT机器学习

在现实实践中会遇到的机器学习算法总结

在理解了我们需要解决的机器学习问题之后,我们要思考需要收集什么数据以及我们可以用什么算法。本文我们会过一遍最流行的机器学习算法,大致了解哪些方法可用,...

3396
来自专栏Spark学习技巧

从数学到实现,全面回顾高斯过程中的函数最优化

作者: Jonathan Landy 机器之心编译 参与:白悦、蒋思源 高斯过程可以被认为是一种机器学习算法,它利用点与点之间同质性的度量作为核函数,以从输入的...

37310
来自专栏机器人网

人工智能“六步走”学习路线

高等数学是基础中的基础,一切理工科都需要这个打底,数据挖掘、人工智能、模式识别此类跟数据打交道的又尤其需要多元微积分运算基础

782
来自专栏数据科学与人工智能

【Python环境】Python分类现实世界的数据

引入 一个机器可以根据照片来辨别鲜花的品种吗?在机器学习角度,这其实是一个分类问题,即机器根据不同品种鲜花的数据进行学习,使其可以对未标记的测试图片数据进行分类...

2546
来自专栏张俊红

机器学习中非平衡数据处理

总第97篇 这一篇主要说一下机器学习中非平衡数据的处理方式以及用python如何实现. 在前面的一篇推文中我们提到过,非平衡数据会影响最后的评判效果,严重的会...

3455
来自专栏机器学习算法原理与实践

用scikit-learn研究局部线性嵌入(LLE)

    在局部线性嵌入(LLE)原理总结中,我们对流形学习中的局部线性嵌入(LLE)算法做了原理总结。这里我们就对scikit-learn中流形学习的一些算法做...

742
来自专栏人工智能LeadAI

从CVPR2017 看多样目标检测

1、导读 When you have trouble with object detection, keep calm and use deep learnin...

3945

扫码关注云+社区