白板机器学习笔记 P46-P59 概率图模型

视频地址：https://www.bilibili.com/video/BV1aE411o7qd?p=46
笔记地址：https://www.yuque.com/books/share/f4031f65-70c1-4909-ba01-c47c31398466/bchg42

P46 概率图模型1 - 背景介绍
本节内容：前半部分讲了概率模型在面对高维随机变量时的困境：计算复杂度高。为了解决数据集D下的联合概率计算问题P(x₁,x₂,…,x_n)，我们要假设一些条件从而简化计算。从样本x_i各属性无条件相互独立，到马尔科夫性（仅依赖前边一个或几个节点），再到条件独立性假设（在一定条件下样本属性集合之间相互独立），逐渐减小约束，使得问题近似和减少计算方面达到一个平衡；后半部分从表示、推断、学习、决策 等几个阶段对概率图进行分类。概率图模型中概率计算是目的，用图表示只是一种手段。

P47 概率图模型2 - 贝叶斯网络（有向图模型） - 条件独立性
两个工具：
①链式法则：P(x₁,x₂,…,x_n)=P(x₁)·P(x₂|x₁)···P(x_n|x_n-1,x_n-2,…,x₁)。链式法则是对所有概率模型都有效的，是联合概率推导必然满足的一条数学规则；

②因子分解：按有向图直接写出的依赖关系概率式子。

本节内容：一个联合事件发生的概率从必然满足的数学规则收缩为概率图模型才满足的因子分解式