R语言Gibbs抽样的贝叶斯简单线性回归仿真分析

相关视频

这篇文章将概述这些原理如何扩展到简单的线性回归。我将导出感兴趣参数的后验条件分布，给出用于实现Gibbs采样器的R代码，并提出所谓的网格点方法。

贝叶斯模型

假设我们观察数据

对于我们的模型是

有兴趣的是作出推论

如果我们在方差项之前放置正态前向系数和反伽马，那么这个数据的完整贝叶斯模型可以写成：

假设超参数

是已知的，后面可以写成一个常数的比例，

括号中的术语是数据或可能性的联合分布。其他条款包括参数的联合先验分布（因为我们隐含地假设独立前，联合先验因素）。

伴随的R代码的第0部分为该指定的“真实”参数从该模型生成数据。我们稍后将用这个数据估计一个贝叶斯回归模型来检查我们是否可以恢复这些真实的参数。

tphi

tb0

tb1

tphi; tb0; tb1;

y吉布斯采样器

为了从这个后验分布中得出，我们可以使用Gibbs抽样算法。吉布斯采样是一种迭代算法，从每个感兴趣的参数的后验分布产生样本。它通过按照以下方式从每个参数的条件后面依次绘制：

可以看出，剩下的1,000个抽签是从后验分布中抽取的。这些样本不是独立的。绘制顺序是随机游走在后空间，空间中的每一步取决于前一个位置。通常还会使用间隔期（这里不做）。这个想法是，每一个平局可能依赖于以前的平局，但不能作为依赖于10日以前的平局。