计算机与数学领域的学习、分享、交流。

上一期我们实现了训练样本的生成功能，这一期我们一起来讨论一下怎么用训练样本来估计模型参数，也就是解决隐马尔可夫模型的训练问题。上一期说过，我们用生成的训练样本来训练新模型的目的是想看看训练出的新模型的参数是否与原模型的参数几乎一致。也就是用测试驱动的方法验证一下模型算法是否正确。

曾在第一期提到过，王同学没有女朋友心情序列与事件序列的样本，他只凭着对女友的了解，预估了三个参数矩阵的概率分布。这一期我们要做一件有趣的事，就是用王同学给的模型参数来生成训练样本。下一期，我们再用所生成的样本训练一个新的模型，看看这个新模型的参数值是否与王同学给的参数值一致（或者说十分接近）。

上一期，王同学已经推导出了求两个序列联合概率的方法。他现在要解决的问题是如何更省时地找到联合概率最大的那个心情序列。先来张示意图，图中S1、S2、S3表示三种不同的心情。t从1到7，共7天。从这张图看，求联合概率最大的心情序列就是求一条使联合概率最大的心情路径。如果用遍历法，3种心情，7天的序列，时间复杂度是O(3^{7})1 维特比算法的基本思想现在，让我们看着图-1，展开想像的翅膀，假设在t=3时刻，各找到一条以S1、S2、S3结点为尾结点的局部最优路径。那么，问题来了，这三条局部路径对后面时刻

上一期，王同学凭着自己对女友的了解，预估了π、A、B，三个参数矩阵的取值。过去一周，通过与女友聊天，王同学了解到女友从周一到周日晚上做的事情分别为：看书、看剧、跑步、看书、看剧、逛商超、看剧。他想用这个观测序列预测女友这周的心情。要预测女友的心情，换说话说，就是要求最大概率的心情序列，使得心情序列与做事序列联合发生的概率最大。循序渐进地解决问题，我们先考虑如何求心情序列与做事序列的联合概率，再考虑如何求最大概率。假设王同学根据事件序列：{看书，看剧，跑步，看书，看剧，逛商超，看剧}，凭直觉给出了女友的

1 问题描述王同学最近一直在外地出差，虽然出差工作很忙，但他每天晚上都会腾出时间和女朋友聊会儿天。一来说说自己在外地见到的新鲜事，二来了解一下女友一天过得好不好、是否开心。但是他觉得每天直接问她心情好不好也不妥，问多了会烦。不过，他知道女友不同的心情会做不同的事，于是，他想是不是可以通过问女友每天晚上在干啥来推测她的心情。突然间，他来了灵感，他想到了隐马尔可夫模型。2 问题分析把女友的心情作为隐状态，共有三种状态：正常、开心、不开心。把与心情比较相关的事作为观测，他想到了几种与女友心情比较相关的事

概率图模型简单的说，就是用图来表示概率模型。它是一种通用化的有确定性知识表示和处理方法。在概率图模型的表达中，结点表示随机变量，结点之间直接相连的边表示随机变量之间的概率关系。贝叶斯网络是一种基于概率推理的数学模型，其理论基础是贝叶斯公式。一个贝叶斯网络就是一个有向无环图，结点表示随机变量，可以是可观测是、隐含变量、未知参量或假设等；结点之间的有向边表示条件依存关系，箭头指向的结点依存于箭头发出的结点（父结点）。以经济状况、房地产销售额、空调销售额三个随机变量为例，构建一个简单的贝叶斯网络。图-1上图展示了