专栏首页NLP算法工程师之路生成模型和判别模型

生成模型和判别模型

  • 生成模型可以产生数据,判别模型只能根据数据做判断。
  • 生成模型的指导思想是贝叶斯,判别模型的指导思想是频率学派

生成模型

生成模型(Generaive Model)一般以概率的方式描述了数据的产生方式,通过对模型采样就可以产生数据。 一个简单例子:给定平面上一系列点,我可以认为这些点是根据一个二维高斯分布产生的,这就是一个生成模型,它可以产生数据。我可以用最大似然方法,根据已有的样本估计出模型的参数,再对这个模型进行采样,就可以得到更多的样本,这些样本和之前的样本在空间分布上可能差不多。

对于分类来说:生成模型观察x与c的整体分布,通过对每一个c建模,最终选择能使结果最优的c作为最终分布P(x,c)。训练完模型后,每新来一个数据,就根据所得到的P(x,c)与x的特征,来判断c。

判别模型

判别模型(Discriminative Model)对数据之间的映射关系建模,而不考虑数据本身是如何生成的。判别模型可以根据给定的数据 预测对应的 (回归),或根据不同的映射结果来区分(discriminate)给定的数据 (分类)。但模型自身并不能产生数据 。

对于分类来说:判别模型直接根据x的特征,来对c建模,划定一个整体判别边界。训练完模型后,每新来一个数据,就根据这个边界来判断它应该属于哪一类。

常见模型的分类

生成模型

  • 高斯混合模型(和其他类型的混合模型)
  • 隐马尔可夫模型
  • 贝叶斯网络(例如Naive bayes,Autoregressive模型)
  • LDA
  • 玻尔兹曼机器(例如受限玻尔兹曼机器,深信念网络)
  • 变分自动编码器
  • 生成对抗性网络

判别模型

  • k-最近邻算法
  • 逻辑回归
  • 支持向量机
  • 最大熵马尔可夫模型
  • 条件随机场
  • 神经网络

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 概率图模型理论与应用

    故事尾音
  • HMM,MEMM和CRF

    概率图模型(probabilistic graphical model, PGM)指用图表示变量相关(依赖)关系的概率模型,主要分为两类:

    故事尾音
  • THU深圳研究院:大数据机器学习

    B站视频:https://www.bilibili.com/video/av67224054

    故事尾音
  • 数据科学“内战”:统计vs.机器学习

    大数据文摘
  • DenseNet发明者黄高:动态模型好在哪里?

    自2012年至今,计算机视觉领域蓬勃发展,各种模型不断涌现,短短 8 年时间,计算机视觉领域便发生了天翻地覆的变化。那么如何看待过往变化,当下研究又如何?

    AI科技评论
  • 从基线模型开始:别担心,模型最开始都让人不忍直视

    大数据文摘
  • 从实验室到工厂,模型部署中的几个重要问题及解决方案

    选自kdnuggets 作者:Mauricio Vacas 机器之心编译 参与:Quantum Cheese、微胖 在这篇文章中,我们会讨论在模型管理和部署中如...

    机器之心
  • 知乎“看山杯”夺冠记

    比赛介绍 这是一个文本多分类的问题:目标是 “参赛者根据知乎给出的问题及话题标签的绑定关系的训练数据,训练出对未标注数据自动标注的模型”。通俗点讲就是:当用户在...

    朱晓霞
  • 谷歌教你学 AI-第四讲部署预测模型

    翻译/校对: Mika 本文为 CDA 数据分析师原创作品,转载需授权 Google Cloud发布了名为"AI Adventures"的系列视频,用简单易懂的...

    CDA数据分析师
  • 干货 | 携程AI模型引擎设计与实践

    携程技术

扫码关注云+社区

领取腾讯云代金券