马尔可夫链中平稳分布的定义是什么?
平稳分布(也称为不变分布)是一个概率分布行向量 ,当它与马尔可夫链的转移矩阵 相乘时保持不变。这意味着如果系统从该分布开始,它在所有未来的时间步都将保持在该分布中。
适用条件
- 是一个行向量。
- 是马尔可夫链的转移矩阵。
- 的元素是非负的且总和为 1。
理解与推导
- 从时间 的分布的一般公式开始:。
- 考虑分布从一个时间步到下一个时间步不发生变化的情况,即 。
- 如果我们令 ,那么 。将它们设为相等得到 。
- 满足 的分布 被称为平稳分布或不变分布。
例子
黑板上显示了方程 。演讲者说:“有一个特殊情况,当行向量 pi 乘以这个 p 时不发生变化……我们称 pi 为平稳分布。换句话说,我们称之为不变分布。”
容易误解的地方
- 认为平稳分布意味着系统永远卡在一个特定的状态;它是对所有状态的分布。
- 将平稳分布与初始分布 混淆。
观看对应讲解
YouTube[CS 70] 马尔可夫链——求平稳分布
0:25 – 1:05原站看这一段 ↗
相关概念
继续追问
相关问题
理解原因↗
从 导出的方程是线性相关的,因为转移矩阵 的行和为 1。这意味着这些方程的和恒等于零,对于 个状态只留下 个独立约束。
适用条件: 是一个随机矩阵(行和为 1)。; 是概率行向量。
YouTube[CS 70] 马尔可夫链——求平稳分布
4:35 – 5:00原站看这一段 ↗
掌握方法↗
要找到马尔可夫链的平稳分布,需要求解由 给出的线性方程组,并满足 中的概率总和为 1 的约束条件。
适用条件: 是马尔可夫链的转移矩阵。; 是概率行向量。
YouTube[CS 70] 马尔可夫链——求平稳分布
1:05 – 1:20原站看这一段 ↗
认识概念↗
理解原因↗
我们添加方程 是因为 是一个有效的概率分布,这意味着它的元素必须总和为 1。这提供了求解由冗余平衡方程创建的欠定系统所需的第二个独立方程。
适用条件: 是状态上的概率分布。;状态空间恰好有两个状态,a 和 b。
YouTube[CS 70] 马尔可夫链——求平稳分布
5:15 – 5:38原站看这一段 ↗
掌握方法↗
通过将 代入 ,我们得到 。合并项得到 ,求解 得到 。
适用条件:平衡方程给出 ,重排为 。;归一化方程是 。
YouTube[CS 70] 马尔可夫链——求平稳分布
5:40 – 6:13原站看这一段 ↗
答案依据视频资料生成并经过独立核验。若有疑问,请核对原视频或联系原作者。