《统计学习方法》5.26-6.1

学习周期：5.26-6.1
学习时长：
5.28 0h（加班干活去了）
5.29 1h10min （20:00-21:10) –chap10
5.30 1h20min（08:40-09:20，22:20-23:00) –chap10
5.31 1h20nub（08:40-09:10，19:30-20:20) –chap10
6.1 1h (在知乎学习CRF）

学习内容：
一句话心得： hmm、crf是解决标注问题主要的模型，了解标注问题需要解决的问题是什么。

笔记

Chap10 隐马尔科夫模型

1. HMM三要素：初始状态概率向量π、状态转移概率矩阵A、观测概率矩阵B
2. HMM两个基本假设：
   
   1. 齐次马尔科夫性假设：假设隐藏的马尔科夫链在任意时刻t的状态只依赖于其前一时刻的状态，与其他时刻的状态及观测无关，与时刻t无关。
   2. 观测独立性假设：假设任意时刻的观测只依赖于该时刻的马尔科夫链的状态，与其他观测及状态无关。
3. HMM三个基本问题：
   
   1. 概率计算问题：给定模型（A,B,π)和观测序列O,计算 p(O|A,B,π)
   2. 学习问题：给定观测序列O，估计模型（A,B,π)，使得在该模型下 p(O|A,B,π)最大
   3. 预测问题，也称解码问题。给定模型（A,B,π)和观测序列O，求对给定观测序列条件概率p(I | O)最大的状态序列。（给定观测序列，求最有可能的状态序列，维比特算法
4. 问题：
   
   1. 算法复杂度怎么估计的 P177
   2. 之前觉得隐马挺复杂的，这一章看下来清楚很多。

Chap11 条件随机场

1. 条件随机场（conditional random field，CRF）
2. 概率无向图
3. 概率无向图模型的因子分解
4. 4.