有监督HMM参数求解的推导

首先需要明确，HMM学习的目标函数到底是什么：HMM是一种有向概率图模型，在有监督的情况下，使用极大似然估计最大化联合概率，求解最优的参数，即：

$$L(\theta )=p(x,z|\theta )$$

$x$是观测序列，$z$是状态序列，联合概率表示为：

$$p(x,z|\theta )=\prod _{t=0}^{T-1}p(x_{t+1}|z_{t+1},\theta )p(z_{t+1}|z_t,\theta )$$

取对数：

$$log(p(x,z|\theta ))=\sum _{t=1}^{T}log(p(x_t|z_t,\theta ))+\sum _{t=1}^{T-1}log(p(z_{t+1}|z_t,\theta ))$$

假设xt∈{1,2,…,O}x_t \in \{1, 2, \dots, O\}xt​∈{1,2,…,O}，zt∈{1,2,…,H}z_t \in \{1, 2, \dots, H\}zt​∈{1,2,…,H}，发射概率矩阵记为$A$，转移概率矩阵记为$B$，$A_{h,o}$在数据中的计数为$e_{h,o}$，$B_{j,k}$在数据中的计数为$f_{j,k}$，似然函数改写为：

$$log(p(x,z|\theta ))=\sum _{h=1}^H\sum _{o=1}^O{e}_{h,o}log(A_{h,o})+\sum _{j=1}^H\sum _{k=1}^O{f}_{j,k}log(B_{j,k})$$

因此最终的优化问题为：

$$\begin{array}{rcl}\max & & \sum _{h=1}^H\sum _{o=1}^O{e}_{h,o}log(A_{h,o})+\sum _{j=1}^H\sum _{k=1}^O{f}_{j,k}log(B_{j,k})\\ s.t.& & \sum _{o=1}^O{A}_{h,o}=1,\sum _{k=1}^H{B}_{j,k}=1\end{array}$$

使用拉格朗日乘数法：

$$\begin{gathered} L(A,B)=\sum _{h=1}^H\sum _{o=1}^O{e}_{h,o}log(A_{h,o})+\sum _{j=1}^H\sum _{k=1}^O{f}_{j,k}log(B_{j,k}) \\ -\sum _{h=1}^H{\alpha }_h(\sum _{o=1}^O{A}_{h,o}-1) \\ -\sum _{j=1}^H{\beta }_j(\sum _{k=1}^H{B}_{j,k}-1) \end{gathered}$$

对$A$、$B$求偏导数得：

$$\begin{gathered} \frac{\partial L}{\partial A_{h,o}}=\frac{e_{h,o}}{A_{h,o}}-{\alpha }_h=0 \\ \frac{\partial L}{\partial B_{j,k}}=\frac{f_{j,k}}{B_{j,k}}-{\beta }_j=0 \\ \frac{\partial L}{\partial {\alpha }_h}=\sum _{o=1}^O{A}_{h,o}-1 \\ \frac{\partial L}{\partial {\beta }_j}=\sum _{k=1}^H{B}_{j,k}-1 \end{gathered}$$

把$A$、$B$代入约束条件得：

$$\begin{gathered} {\alpha }_h=\sum _{o=1}^O{e}_{h,o} \\ {\beta }_j=\sum _{k=1}^H{f}_{j,k} \end{gathered}$$

代入增广函数：

$$\begin{gathered} L(A,B)=\sum _{h=1}^H\sum _{o=1}^O{e}_{h,o}log(A_{h,o})+\sum _{j=1}^H\sum _{k=1}^O{f}_{j,k}log(B_{j,k}) \\ -\sum _{h=1}^H\sum _{o=1}^O{e}_{h,o}(\sum _{o=1}^O{A}_{h,o}-1) \\ -\sum _{j=1}^H\sum _{k=1}^H{f}_{j,k}(\sum _{k=1}^H{B}_{j,k}-1) \end{gathered}$$

重新对$A$、$B$求偏导数得：

$$\begin{gathered} \frac{\partial L}{\partial A_{h,o}}=\frac{e_{h,o}}{A_{h,o}}-\sum _{o=1}^O{e}_{h,o}=0 \\ \frac{\partial L}{\partial B_{j,k}}=\frac{f_{j,k}}{B_{j,k}}-\sum _{k=1}^H{f}_{j,k}=0 \end{gathered}$$

最后的结果与直观认知一致（认知与推导一致是偶然的）：

$$\begin{gathered} A_{h,o}=\frac{e_{h,o}}{\sum _{o=1}^O{e}_{h,o}} \\ {B}_{j,k}=\frac{f_{j,k}}{\sum _{k=1}^H{f}_{j,k}} \end{gathered}$$