文章目录
一些理论
概率图模型
利用图来表示与模型有关的变量的联合概率分布
贝叶斯网络
将随机变量作为结点,若两个随机变量相关或者不独立,则将二者连接一条边;若给定若干随机变量,则形成一个有向图,即构成一个网络。
如果该网络是有向无环图
,则这个网络称为贝叶斯网络。
p ( A , B , C , D ) = P ( A ) P ( B ∣ A ) P ( C ∣ A , B ) P ( D ∣ C ) p(A,B,C,D)=P(A)P(B|A)P(C|A,B)P(D|C) p(A,B,C,D)=P(A)P(B∣A)P(C∣A,B)P(D∣C)
马尔科夫模型
若贝叶斯网络退化成线性链
,则得到马尔科夫模型。
已知 n n n 个有序随机变量,根据贝叶斯定理,其联合分布可写成条件分布的连乘
p ( x 1 , x 2 , . . . x n ) = ∏ i = 1 n p ( x i ∣ x i − 1 , . . . x 1 ) p(x_1,x_2,...x_n) = \prod_{i=1}^n p(x_i|x_{i-1},...x_1) p(x1,x2,...xn)=i=1∏np(xi∣xi−1,...x1)
马尔科夫模型是指,假设序列中的任一随机变量只与它的前 1 1 1 个变量有关,与更早的变量条件独立
p ( x i ∣ x i − 1 , . . . x 1 ) = p ( x i ∣ x i − 1 ) p(x_i|x_{i-1},...x_1) = p(x_i|x_{i-1}) p(xi∣xi−1,...x1)=p(xi∣xi−1)
在此假设下,其联合分布可简化为
p ( x 1 , x 2 , . . . x n ) = p ( x 1 ) ∏ i = 2 n p ( x i ∣ x i − 1 ) p(x_1,x_2,...x_n) = p(x_1) \prod_{i=2}^n p(x_i|x_{i-1}) p(x1,x2,...x