学界 | 为什么数据科学家都钟情于最常见的正态分布?

大数据文摘出品

编译:JonyKai、元元、云舟

对于深度学习和机器学习工程师们来说,正态分布是世界上所有概率模型中最重要的一个。即使你没有参与过任何人工智能项目,也一定遇到过高斯模型,今天就让我们来看看高斯过程为什么这么受欢迎。

高斯分布(Gaussian distribution),也称正态分布,最早由A.棣莫弗在求二项分布的渐近公式中得到。C.F.高斯在研究测量误差时从另一个角度导出了它。P.S.拉普拉斯和高斯研究了它的性质。是一个在数学、物理及工程等领域都非常重要的概率分布,在统计学的许多方面有着重大的影响力。

正态曲线呈钟型,两头低,中间高,左右对称因其曲线呈钟形,因此人们又经常称之为钟形曲线。

若随机变量X服从一个数学期望为μ、方差为σ^2的正态分布,记为N(μ,σ^2)。其概率密度函数为正态分布的期望值μ决定了其位置,其标准差σ决定了分布的幅度。当μ = 0,σ = 1时的正态分布是标准正态分布。

高斯概率分布的数学表达式

在自然现象中随处可见

所有模型都是错的,但有些是有用的 —George Box

正在扩散的粒子的位置可以用正态分布来描述

正态分布有极其广泛的实际背景,生产与科学实验中很多随机变量的概率分布都可以近似地用正态分布来描述。例如,在生产条件不变的情况下,产品的强力、抗压强度、口径、长度等指标;同一种生物体的身长、体重等指标;同一种种子的重量;测量同一物体的误差;弹着点沿某一方向的偏差;某个地区的年降水量;以及理想气体分子的速度分量,等等。

一般来说,如果一个量是由许多微小的独立随机因素影响的结果,那么就可以认为这个量具有正态分布。从理论上看,正态分布具有很多良好的性质,许多概率分布可以用它来近似;还有一些常用的概率分布是由它直接导出的,例如对数正态分布、t分布、F分布等。

数学原因:中心极限定理

二维空间上进行200万步的随机游走之后得到的图案

中心极限定理的内容为:大量独立随机变量的和经过适当标准化之后趋近于正态分布,与这些变量原本的分布无关。比如,随机游走的总距离就趋近于正态分布。下面我们介绍三种形式的中心极限定理:

独立同分布的中心极限定理

设随机变量X1,X2,......Xn,......独立同分布,并且具有有限的数学期望和方差:E(Xi)=μ,D(Xi)=σ^2 (i=1,2....),则对任意x,分布函数为

满足

该定理说明,当n很大时,随机变量

近似地服从标准正态分布N(0,1)。因此,当n很大时,

近似地服从正态分布N(nμ,nσ^2).该定理是中心极限定理最简单又最常用的一种形式,在实际工作中,只要n足够大,便可以把独立同分布的随机变量之和当作正态变量。这种方法在数理统计中用得很普遍,当处理大样本时,它是重要工具。

棣莫佛-拉普拉斯定理

设随机变量X(n=1,2,...,)服从参数为n,p(0<p<1)的二项分布,则对于任意有限区间(a,b)有

该定理表明,正态分布是二项分布的极限分布,当数充分大时,我们可以利用上式来计算二项分布的概率。

不同分布的中心极限定理

设随机变量X1,X2,......Xn,......独立同分布,它们的概率密度分别为fxk(x),并有E(Xk)=μk,D(Xk)= σk^2,(k=1,2......)

若对任意正数τ,有:

对任意x,随机变量Yn的分布函数Fn(x),满足:

该定理说明:所研究的随机变量如果是有大量独立的而且均匀的随机变量相加而成,那么它的分布将近似于正态分布。

万变不离其宗

与其他很多分布不同,正态分布进行适当的变换之后,仍是正态分布。

  • 两个正态分布之积仍是正态分布
  • 两个独立的服从正态分布的随机变量之和服从正态分布
  • 对一个正态分布进行高斯卷积还是正态分布
  • 正态分布经过傅立叶变换之后仍是正态分布

简洁

奥卡姆剃刀强调一个哲学原则:在其他条件都相同下,最简单的解就是最好的解。

对于任何一个用正态分布拟合的随机分布,都可能存在一个多参数,更复杂,更准确的解法。但是我们仍然会倾向于选用正态分布,因为它在数学上很简洁。

  • 它的均值(mean)、中值(median)和众数(mode)都相同
  • 只需要用两个参数就可以确定整个分布

图形特性:

  • 集中性:正态曲线的高峰位于正中央,即均数所在的位置。
  • 对称性:正态曲线以均数为中心,左右对称,曲线两端永远不与横轴相交。
  • 均匀变动性:正态曲线由均数所在处开始,分别向左右两侧逐渐均匀下降。
  • 曲线与横轴间的面积总等于1,相当于概率密度函数的函数从正无穷到负无穷积分的概率为1。即频率的总和为100%。

相关报道:

https://towardsdatascience.com/why-data-scientists-love-gaussian-6e7a7b726859

原文发布于微信公众号 - 大数据文摘(BigDataDigest)

原文发表时间:2018-06-18

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏专知

【ACL2018】文本问答新思路,动态空间记忆网络进行视觉推理

1411
来自专栏专知

【CVPR2018论文笔记】非监督任意姿势人体图像合成

1432
来自专栏大数据文摘

站在巨人的肩膀上,深度学习的9篇开山之作

1253
来自专栏机器学习算法全栈工程师

《机器学习》笔记-集成学习(8)

作者:刘才权 编辑:祝鑫泉 前 言 如今机器学习和深度学习如此火热,相信很多像我一样的普通程序猿或者还在大学校园中...

3766
来自专栏灯塔大数据

荐读|初学者如何选择合适的机器学习算法

文主要的目标读者是机器学习爱好者或数据科学的初学者,以及对学习和应用机器学习算法解决实际问题抱有浓厚兴趣的读者。 面对大量的机器学习算法,初学者通常会问自己一...

4127
来自专栏数据派THU

独家 | 一文读懂深度学习(附学习资源)

Figure1. Deep learning导图 前言 深度学习(deep learning)的概念最早可以追溯到1940-1960年间的控制论(cyberne...

2256
来自专栏人工智能LeadAI

R-CNN 物体检测第一弹

今天,重读了 R-CNN 的 TPAMI 版本,感觉受益颇多。该版相比之前的会议版,在检测流程和实现细节上表述得更为清晰。此外,因为是改投 TPAMI 的关系,...

4146
来自专栏华章科技

揭秘:为什么数据科学家都钟情于这个“错误”的正态分布?

对于深度学习和机器学习工程师们来说,正态分布是世界上所有概率模型中最重要的一个。即使你没有参与过任何人工智能项目,也一定遇到过高斯模型,今天就让我们来看看高斯过...

511
来自专栏琦小虾的Binary

学习July博文总结——支持向量机(SVM)的深入理解(下)

接上篇博文《学习July博文总结——支持向量机(SVM)的深入理解(上) 》; 三、证明SVM 凡是涉及到要证明的内容和理论,一般都不是怎么好惹的东西。绝大部分...

1969
来自专栏IT派

改变你对世界看法的五大计算机视觉技术!

计算机视觉是当前最热门的研究之一,是一门多学科交叉的研究,涵盖计算机科学(图形学、算法、理论研究等)、数学(信息检索、机器学习)、工程(机器人、NLP等)、生物...

1310

扫码关注云+社区