首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
您找到你想要的搜索结果了吗?
是的
没有找到

全面理解奥卡姆剃刀原则——兼论常识获取和推理的发展方向

奥卡姆剃刀原则是科学方法论当中的一条重要的原则, 以往对奥卡姆剃刀原则的内容阐释,主要可概括为八个字:“如非必要,勿增实体”。 看起来这八个字简单明了,但是真正理解对了、用对了是不容易的。首先我们要了解:奥卡姆剃刀既不是真理,也不是事实,只是一种科学共同体约定的行事方式。 不符合奥卡姆剃刀的结论,内容虽不一定是错的,但程序肯定是不妥的。比如,断言外星人的存在,在现阶段并没有充分的证据。但反驳任何外星人的存在,也没有任何经得起推敲的成熟理论。如果因为不能举证外星人不存在就在没有足够证据的情况下承认外星人存

09

数学之美番外篇:平凡而又神奇的贝叶斯方法

0. 前言 1. 历史     1.1 一个例子:自然语言的二义性     1.2 贝叶斯公式 2. 拼写纠正 3. 模型比较与贝叶斯奥卡姆剃刀     3.1 再访拼写纠正     3.2 模型比较理论(Model Comparasion)与贝叶斯奥卡姆剃刀(Bayesian Occam’s Razor)     3.3 最小描述长度原则     3.4 最优贝叶斯推理 4. 无处不在的贝叶斯     4.1 中文分词     4.2 统计机器翻译     4.3 贝叶斯图像识别,Analysis by Synthesis        4.4 EM 算法与基于模型的聚类     4.5 最大似然与最小二乘 5. 朴素贝叶斯方法(又名“愚蠢者的贝叶斯(idiot’s bayes)”)     5.1 垃圾邮件过滤器     5.2 为什么朴素贝叶斯方法令人诧异地好——一个理论解释 6. 层级贝叶斯模型     6.1 隐马可夫模型(HMM) 7. 贝叶斯网络

05

十张图解释机器学习

3.奥卡姆剃刀:贝叶斯推理表现出奥卡姆剃刀原理了。 这个图给出了为什么复杂的模型会变得不那么可能了。 水平轴表示可能的数据集D的空间。贝叶斯定理奖励模型的比例与他们预测发生的数据有多少有关系。 这些预测通过D上的归一化概率分布来量化。给出模型H i,P(D | H i)的数据的概率被称为H i的证据。 简单模型H1仅仅会产生有限范围的预测,如P(D | H1)所示; 具有例如比H1更多的自由参数的更强大的模型H2能够预测更多种类的数据集。 然而,这意味着H2不像H1那样强烈地预测区域C1中的数据集。假设已将相等的先验概率分配给两个模型。 然后,如果数据集落在区域C1中,则较不强大的模型H1将是更有可能的模型。

01
领券