马尔可夫链是满足马尔可夫性质的随机过程,本文记录相关内容。
简介
马尔可夫链 X_{1}, X_{2}, \cdots 描述了一个状态序列,其中每个状态值取决于前一个状态。...平稳分布
马尔可夫链定理
如果一个非周期马尔可夫链具有转移概率矩阵P ,且它的任何两个状态是联通的,则有:
image.png
其中:
1,2, \cdots, j, \cdots 为所有可能的状态...称概率分布 \vec{\pi} 为马尔可夫链的平稳分布。
在马尔可夫链定理中:
马尔可夫链的状态不要求有限, 可以是无穷多个。
非周期性在实际任务中都是满足的。...收敛
从初始概率分布 \vec{\pi}_{0} 出发, 在马尔可夫链上做状态转移, 记时刻 i 的状态 X_{i} 服从的概率分布为 \vec{\pi}_{i} , 记作 X_{i}...如果从一个具体的初始状态x_0开始,然后沿着马尔可夫链按照概率转移矩阵做调整,则得到一个转移序列
x_{0}, x_{1}, \cdots, x_{n}, x_{q_{b}+1}, \cdots
根据马尔可夫链的收敛行为