25、网络学习与朴素贝叶斯分类方法详解

网络学习与朴素贝叶斯分类方法详解

1. 无向网络评分方法

在无向网络的评分方法中，计算得分会受到分布归一化常数中各团参数耦合的阻碍。不过，可以使用超马尔可夫先验来解决这个问题。

2. 学习方法总结

2.1 离散信念网络

对于离散信念网络，使用狄利克雷参数先验特别方便，因为它与分类分布是共轭的。在假设局部和全局参数独立的情况下，信念网络表的后验会分解。

2.2 信念网络结构学习

学习信念网络的结构更为复杂。PC 算法通过局部独立性测试来决定两个变量是否应该连接。另一种全局方法是使用网络评分方法，例如在狄利克雷先验下网络结构的模型似然。

2.3 马尔可夫网络参数学习

• 对于可分解的马尔可夫网络，学习最大似然参数很直接，可以通过计数来实现。
• 对于不可分解的马尔可夫网络，没有封闭形式的解。最大似然准则等价于确保团边缘分布与经验边缘分布相匹配，迭代比例拟合算法可用于设置表格以满足这些边缘分布的匹配。
• 对于使用特征函数参数化的马尔可夫网络，迭代缩放是一种最大似然技术，可实现单个参数的更新。基于梯度的方法在条件随机场中也很常用。

3. 代码实现

3.1 条件独立性相关代码

代码文件名	功能描述
condindepEmp.m