Metropolis-Hastings 算法对概率分布进行采样以产生一组与原始分布成比例的轨迹。
首先,目标是什么?MCMC的目标是从某个概率分布中抽取样本,而不需要知道它在任何一点的确切概率。MCMC实现这一目标的方式是在该分布上 "徘徊",使在每个地点花费的时间与分布的概率成正比。如果 "徘徊 "过程设置正确,你可以确保这种比例关系(花费的时间和分布的概率之间)得以实现
为了可视化算法的工作原理,我们在二维中实现它
plt.style.use('ggplot')
首先,让我们创建并绘制任意目标分布
tart = np.append
plt.hist
plt.text
def gees:
daa = d.astype
np.bincount # 产生一个范围为(i,i+1)的计数数组
np.array(\[\])
crnt = int
for i in xrange(n_ms):
trs = np.append
# 最终创建一个函数,选择一个好的跳跃距离
# 如果当前位置的p很低,就把跳转的距离变大
poo = int
# 确保我们不离开边界
while rood data.max or ppsd < data.min:
pood = int
if a > 1:
cuent = prosed
else:
if np.random.random<= a:
curnt = ppse
traces = get_traces(target, 5000)
# 绘制目标分布图和轨迹分布图
plt.hist
plt.subplot(2,1,2)
plt.hist
plt.tight_layout
plt.show
不仅轨迹的分布非常接近实际分布,样本均值也非常接近。绘制的样本点少于 5000 个,我们非常接近于近似目标分布的形状。