sheng的学习笔记-AI-概率图，隐马尔可夫HMM，马尔可夫随机场MRF，条件随机场CRF

 ai目录：sheng的学习笔记-AI目录-优快云博客 

贝叶斯分类： https://blog.youkuaiyun.com/coldstarry/article/details/138861587

基础知识

概率图模型

概率图模型(probabilistic graphical model)是一类用图来表达变量相关关系的概率模型。

它以图为表示工具，最常见的是用一个结点表示一个或一组随机变量，结点之间的边表示变量间的概率相关关系，即“变量关系图”​。

根据边的性质不同，概率图模型可大致分为两类：

• 第一类是使用有向无环图表示变量间的依赖关系，称为有向图模型或贝叶斯网(Bayesian network)；
• 第二类是使用无向图表示变量间的相关关系，称为无向图模型或马尔可夫网(Markov network)。

有向图和无向图模型

• 无向图模型的因子是势函数，需要全局归一化。

  优点是：势函数设计不受概率分布的约束，设计灵活。（势函数下面有介绍）

• 有向图模型的因子是概率分布，不需要全局归一化。

  优点是：训练相对高效。

生成式模型和判别式模型

生成式模型

生成式模型是直接对联合分布进行建模，涉及到多个随机变量的概率分布，即当考虑两个或更多个随机变量时，它们的联合概率分布。这种建模方法扩展了单个随机变量的概率分布概念，允许同时处理多个变量的情况，关注于如何处理和利用多个变量之间的关系，以便更好地理解和预测数据。例如在处理多维数据时，通过分析多个变量的联合分布，可以更好地理解数据的内在结构和关系。这种建模方法不仅适用于传统的数据驱动的AI应用，也适用于处理多模态数据和多任务学习等复杂场景。 

图建模数据的联合概率分布p(x, y)。判别模型基于概率理论，已知输入变量x，通过构建条件概率分布P(y|x)来预测y

个人理解：多个变量，人不知道这些变量之间的映射关系，通过概率建模，知道一些节点就知道他们临近节点的数据

判别式模型

判别式模型则是对条件分布进行建模， 注于如何在给定输入的情况下预测输出，即直接对条件概率分布p(y|x;θ)进行建模。试图对多个变量在给定观测值后的条件概率进行建模。这种建模方法被称为判别建模。

若令x={x1,x2,...,xn}为观测序列，y={y1,y2,...,yn}为与之相应的标记序列，则条件随机场的目标是构建条件概率模型P(y|x)

个人理解：根据已知数据：x,y，构建 x=>y 的函数，在计算的过程中会计算因为x导致对y的影响

隐马尔可夫模型（HMM）

基本概念

隐马尔可夫模型（Hidden Markov Model,简称HMM）是结构最简单的动态贝叶斯网(dynamic Bayesian network)，这是一种著名的有向图模型，主要用于时序数据建模，在语音识别、自然语言处理等领域有广泛应用