12、隐马尔可夫模型与神经网络基础

隐马尔可夫模型与神经网络基础

1. 隐马尔可夫模型基础

在TensorFlow中，图的节点是张量，我们可以将转移矩阵 T 表示为TensorFlow图中的一个节点，然后对其进行数学运算以得到有趣的结果。例如，若更喜欢晴天而非雨天，可将每天的评分用一个3×1的矩阵 s 表示，通过 tf.matmul(T*s) 可得到从每个状态转移的预期偏好。

1.1 隐马尔可夫模型（HMM）概念

当所有状态都可直接观测时，马尔可夫模型很方便，但实际并非总是如此。比如仅能获取一个城镇的温度读数，温度与天气相关但不等同于天气，如何根据这些间接测量值推断天气呢？

HMM适用于真实状态不可直接观测的情况，如天气的晴雨状态。这些隐藏状态遵循马尔可夫模型，且每个状态以一定概率发出可测量的观测值。例如，晴天可能发出高温读数，但偶尔也会因某些原因发出低温读数。

在HMM中，需要定义发射概率，通常用发射矩阵表示。矩阵的行数是状态数（如晴天、多云、雨天），列数是观测类型数（如热、温和、冷），矩阵中的每个元素是与发射相关的概率。

HMM还包括初始概率，即无先验知识时每个状态发生的概率。例如，在洛杉矶建模天气时，晴天的初始概率可能更高；在西雅图建模时，雨天的初始概率可设得更高。

1.2 前向算法

前向算法用于计算观测值的概率。由于导致特定观测值的排列组合众多，简单枚举所有可能性的计算时间会呈指数级增长。可使用动态规划解决该问题，即将复杂问题分解为简单小问题，并使用查找表缓存结果。

以下是使用Python和T