基本无害量化金融：判别式和生成式学习算法

【前期精彩内容】

生成对抗网络模型（GAN）是当下机器学习理论的研究主流，如果要学习该模型，我们会不断看到判别式学习（discriminative）vs生成式学习（generative approach）的概念。

【图片信息：生成对抗网络模型】

我们今天用计量经济学的视角来解读判别式学习（discriminative）vs生成式学习（generative approach）的概念。

有若干机器学习教材是从判别式学习（discriminative）vs生成式学习（generative approach）视角入手的：

常见的判别式学习算法：Kernellearning、最小二乘模型及扩展模型、岭回归与LASSO模型、SVM、Logistic模型、（远古版本）的神经网络。

常见的生成式模型有：LDA、极大似然函数方法、EM算法、贝叶斯框架下的机器学习（包括变分推论和LDA）、非参数估计、图模型（Michael Jordan的最爱）

如何简单的区分生成式模型（G-模型）和判别式模型（D-模型）？

因，仅是本学科的长期习惯而已。

第六点，隐变量的思想也可以用于监督学习(当然这是另外一个故事....)。

当然，因为机器学习理论是一个发展的学科，在发展的过程中，进入该学科的算法和模型自然不是严格按照生成和判别的模式进入的，因此也有很多的算法和模型非常难归入生成和判别的模式。本质上说，本学科是一个“百家争鸣”的学科，因为到底什么是人工智能？毕竟，没有定论。因此，该学科的发展也不可能事先提前做好规划，或者一定按照某个路径和模式发展。基本上这个领域还是“少说费话，你行你上”“代码、算法、数学公式拿来”“黑猫白猫，捉到老鼠才是好猫”。

【趣闻：没什么用的冷知识】

最早系统的提出基于“判别”和“生成”的思想来划分机器学习理论的算法，应该是来自哥伦比亚大学的Tony Jebara教授。Tony也是一个McGill人。他1998年从McGill本科毕业，后就在MIT获得博士学位。Tony 1998年毕业的时候也算是在McGill有段“佳话”，他当时的本科毕业论文写的非常的棒，写出了博士生水平，本科论文非常的“厚”。当时McGIll CIM实验室的创始人之一MD Levine教授给他的本科论文极高的评价，说他是他认识的本科生中最优秀的学生（没有之一），然后直接操刀写推荐信，当领路人，把推荐Tony去了MIT，让Tony师从Alex Pentland教授（PCA算法的发明人）。Tony长期在哥伦比亚大学讲授机器学习理论课程。

图片信息：Tony Jebara教授和他的一本专著