坦克问题的频率及贝叶斯解释

在统计学理论的估计中,用不放回抽样来估计离散型均匀分布最大值问题在英语世界中是著名的德国坦克问题(German tank problem),它因在第二次世界大战中用于估计德国坦克数量而得名。本文将从频率以及贝叶斯的角度探索坦克问题。

背景

假设所有的德国坦克是从1开始按自然数递增编号的,坦克的总数为N,也就是说坦克的最大编号为N。盟军在战斗中共随机俘获/击毁了k辆坦克,且这些坦克的最大编号为m,那么应当如何对N的大小进行估计?

盟军利用统计理论做的的估计取得了很棒的结果,与德军真实数据非常接近,如下表所示:

月份

统计估计

情报估计

德国记录

1940-06

169

1000

122

1941-06

244

1550

271

1942-08

327

1550

342

上面的问题,转化为数学问题是:用不放回抽样来估计离散型均匀分布最大值。 已知样本数量k和样本最大值m,求群体最大值N

频率解释

推导

定义样本最大值随机变量M,那么

M的期望为:

因此,

问题转化为了求μM

因为实验只进行了一次(实际上也无法进行多次),因此以单词实验的值作为μM的估计值,即μM= m。所以有:

直观理解

直观理解如上,群体最大值的估计值等于样本最大值加上样本观测值之间的平均距离。

置信区间

假定抽样后放回以简化计算,记k次抽样都集中在分位数p内,

那么该k次抽样出现的的概率为

。 设两个概率p1,p2p1,p2,那么其对应的分位数为[p11/k,p21/k][p1^{1/k},p2^{1/k}],其对应样本的抽样区间的最大值为[N∗p11/k,N∗p21/k][N*p1^{1/k},N*p2^{1/k}]。 那么,已知样本最大值m,估计群体最大值的置信区间为[m/p21/k,m/p11/k][m/p2^{1/k},m/p1^{1/k}]。

例如,k=5,p1=2.5%,p2=97.5%。那么置信区间大约为

更一般地,若选择95%置信区间

对于一系列的k,可得下表:

k

点估计值

置信区间

1

2m

[m,20m]

2

1.5m

[m,4.5m]

5

1.2m

[m,1.82m]

10

1.1m

[m,1.35m]

20

1.05m

[m,1.16m]

贝叶斯解释

贝叶斯法,在给定m,k的情况下使用贝叶斯公式计算N的概率分布,然后再求期望和方差。

对于P(n|k),表示的是在收集到k量坦克信息(仅知道收集了k辆坦克而不知其数字)的条件下对群体数n的先验估计。假定其为某种离散均匀分布:

所以,上式可化简为:

这样便根据m,k的信息求出了n的后验概率分布。一些信息如下:

  • 当k ≥ 1时,敌方坦克数量分布的众数为m。
  • 当k ≥ 3时, N的均值有限:
  • 当k ≥ 4时, N的标准差有限:
  1. wiki
  2. Tony blog

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏技术专栏

Python3入门机器学习(五)-线性回归算法

线性回归算法以一个坐标系里一个维度为结果,其他维度为特征(如二维平面坐标系中横轴为特征,纵轴为结果),无数的训练集放在坐标系中,发现他们是围绕着一条执行分布。线...

1193
来自专栏PPV课数据科学社区

【学习】R语言与机器学习学习笔记(2)决策树算法

算法二:决策树算法 决策树定义 首先,我们来谈谈什么是决策树。我们还是以鸢尾花为例子来说明这个问题。 观察上图,我们判决鸢尾花的思...

3329
来自专栏AI研习社

详解基于朴素贝叶斯的情感分析及Python实现

相对于「 基于词典的分析 」,「 基于机器学习 」的就不需要大量标注的词典,但是需要大量标记的数据,比如: 还是下面这句话,如果它的标签是: 服务质量 - 中 ...

3388
来自专栏数据处理

回归

看一下损失函数的导函数tanh(x),当x偏离0时,tanh(x)趋向+1或者-1

562
来自专栏机器学习算法原理与实践

典型关联分析(CCA)原理总结

    典型关联分析(Canonical Correlation Analysis,以下简称CCA)是最常用的挖掘数据关联关系的算法之一。比如我们拿到两组数据,...

422
来自专栏大数据挖掘DT机器学习

R语言与机器学习(分类算法)决策树算法

决策树定义 首先,我们来谈谈什么是决策树。我们还是以鸢尾花为例子来说明这个问题。 ? 观察上图,我们判决鸢尾花的思考过程可以这么...

3584
来自专栏张俊红

数据分析该分析什么?

总第56篇 很多时候我们走的走的就会忘记当初为什么而出发。 我们有的时候在拿到数据以后不知道该怎么进行分析,该去分析什么,其实这些在我们以前的统计学中都学过。 ...

3088
来自专栏AI研习社

机器学习算法究竟需要试验多少次,才能有效反映模型性能?

编者按:本文作者 Jason Brownlee 为澳大利亚知名机器学习专家,对时间序列预测尤有心得。原文发布于其博客。AI 研习社编译。文中相关链接详见文末“阅...

2586
来自专栏一名叫大蕉的程序员

机器学习虾扯淡之Logistic回归No.44

0x00 前言 大家好我是小蕉。上一次我们说完了线性回归。不知道小伙伴有没有什么意见建议,是不是发现每个字都看得懂,但是全篇都不知道在说啥?哈哈哈哈哈哈,那就...

1635
来自专栏大数据挖掘DT机器学习

用R语言做钻石价格预测

作者:夏尔康 https://ask.hellobi.com/blog/xiaerkang/4424 1.1问题描述和目标 因为钻石的价格定价取决于重量...

3064

扫码关注云+社区