Notes 4-Markov Chain- computing methods of stationary distribution

本文探讨了如何计算马尔科夫链的稳态分布,针对有限和无限状态数量的情况提供了方法。对于有限状态,介绍了两种计算方法;对于无限状态,解释了全局平衡方程和详细平衡方程的概念,并特别讨论了一维生死链及其特定守恒方程的应用。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >



稳态分布的计算

对于有限状态数量的稳态分布计算

Method 1:

将系统状态矩阵代入稳态分布的公式中,

解方程即可:


Method 2:

对于较少状态数量,直接计算转移概率矩阵的极限,如果收敛于一个矩阵的话,那么里面的每一行都是稳态分布。


对于无限状态数量的稳态分布计算

因为状态数量无限时,就不可能用解方程组或者求极限的当时来算稳态分布了。这个时候,就像高数里面推导等比数列通项公式一样,我们可以从状态转移图里面发现一些“规律”来通用的表示某些时刻的瞬时概率。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值