机器学习数学笔记|大数定理中心极限定理矩估计

本博客为七月在线邹博老师机器学习数学课程学习笔记 为七月在线打 call!!课程传送门[1]

概率密度/概率分布函数

• 概率密度只是针对连续性变量而言，而分布函数是对所有随机变量取值的概率的讨论，包括连续性和离散型.
• 已知连续型随机变量的密度函数，可以通过讨论及定积分的计算求出其分布函数；当已知连续型随机变量的分布函数时，对其求导就可得到密度函数。
• 概率密度曲线 y 轴意义在于给定相同长度下,样本落在此段几率大小.其函数图像与 x 轴包围的面积表示取该值的概率,即概率密度函数从

• 概率分布函数[2](引自百度百科)
  • 在实际问题中，常常要研究一个随机变量 ξ 取值小于某一数值 x 的概率，这概率是 x 的函数，称这种函数为随机变量 ξ 的分布函数，简称分布函数，记作 F(x)，即 F(x)=P(ξ<x) (-∞<x<+∞)
  • 由它并可以决定随机变量落入任何范围内的概率。例如在桥梁和水坝的设计中，每年河流的最高水位 ξ 小于 x 米的概率是 x 的函数，这个函数就是最高水位 ξ 的分布函数.
  • 常见的离散型随机变量分布模型有“0-1 分布”、二项式分布、泊松分布等；连续型随机变量分布模型有均匀分布、正态分布等。
  • 概率分布函数图像 y 轴的意义是 X<x_{i}

切比雪夫不等式

大数定理

伯努利定理

中心极限定理

样本的统计量

• 矩估计的原理即是假设样本的 K 阶矩等于总体的 K 阶矩,可以估计出总体的参数

矩估计

参考资料

[1]

课程传送门: http://www.julyedu.com/video/play/38

[2]

概率分布函数: https://baike.baidu.com/item/%E6%A6%82%E7%8E%87%E5%88%86%E5%B8%83%E5%87%BD%E6%95%B0/7506564?fr=aladdin