NLP系列学习:常用的语言平滑模型

语言模型常见的平滑算法就那几种,一般的教程都不提分几种的模式、分类。

不过在MIT的NLP课程ppt中总结说有三种模式：Discounting, Interpolationg, Back-off

有关这三种模式的描述可以见其PPT（http://people.csail.mit.edu/regina/6864/lec2-2.pdf）

Discounting类包括：

Add-One Smoothing（加法平滑）

Good-Turing Discounting（图灵平滑）

Katz Smoothing

Interpolation类包括：

Linear Interpolation（插值平滑）

Back-off类包括：

Kneser-Ney Smoothing

有关各个平滑算法的具体描述，也可见上述PPT。