写在前面
统计学是个好东东,说它是个好东东,因为统计学不像其他有些学科,它不仅在科研领域应用广泛,在平常的生活中我们也会经常碰到。当然我们要研究的主要还是在科研领域的应用。
本文讲讲经典的隐含马尔可夫模型,同时说明本文所讲的马尔可夫模型所用的记号都偏向于信号处理的。
隐含马尔可夫模型
隐含马尔可夫模型(HMM)是一个二元变量离散时间过程 (Xn,Yn)\left ( X_{n},Y_{n} \right )(Xn,Yn),其中 XnX_{n}Xn 和 YnY_{n}Yn 是两个有限维数的实数随机向量,分别定义如下:
Xn,n≥0X_{n},n\ge 0Xn,n≥0,是一个马尔可夫随机过程,即对于任意函数 fff ,由 {
Xs;s≤n}\left \{ X_{s};s\le n \right \}{
Xs;s≤n}(过去直到 nnn 的值)产生的f(Xn+1)f\left ( X_{n+1} \right )f(Xn+1)条件期望 σ\sigmaσ 等于由{
Xn}\left \{ X_{n} \right \}{
Xn}产生的 f(Xn+1)f\left ( X_{n+1} \right )f(Xn+1) 条件期望 σ\sigmaσ。如果条件概率分布具有概率密度,则可被写为:
pXn+1∣X0:n(xn+1;x0:n)=pXn+1∣Xn(xn+1;xn)(3−1)p_{X_{n+1}|X_{0:n}}\left ( x_{n+1};x_{0:n} \right ) = p_{X_{n+1}|X_{n}}\left ( x_{n+1};x_{n} \right ) (3-1)pXn+1∣X0:n(xn+1;x0:n)=pXn+1∣Xn(xn+1;xn)(3−1)
Yn,n≥0Y_{n},n\ge 0Yn,n≥0,是一个随机过程,给定 X0,...,Xn−1X_{0},...,X_{n-1}X0,...,Xn−1 的 Y0,...,Yn−1Y_{0},...,Y_{n-1}Y0,...,Yn−1 条件概率分布是条件 XkX_{k}Xk 的 YkY_{k}Yk 概率分布的乘积。如果条件概率分布具有概率密度,则可被写为:
pY0:n∣X0:n(y0:n;x0:n)=∏k=0npYk∣Xk(yk;xk)(3−2)p_{Y_{0:n}|X_{0:n}}\left ( y_{0:n};x_{0:n} \right ) = \prod_{k=0}^{n} p_{Y_{k}|X_{k}}\left ( y_{k};x_{k} \right ) (3-2)pY0:n∣X0:n(y0:n;x0:n)=k=0∏npYk∣X