18、深度概率学习与深度决策树：原理、方法与应用

深度概率学习与深度决策树：原理、方法与应用

1. 深度概率学习

深度概率学习领域存在多种与解码相关的分类器，如基于核的贝叶斯分类器、池化贝叶斯分类器、输出解码朴素贝叶斯和池化朴素贝叶斯。其中，k均值算法是贝叶斯分类器的无监督版本，而朴素贝叶斯和贝叶斯分类器可通过将其监督版本和无监督版本相互结合进行堆叠。

1.1 模糊朴素贝叶斯

在计算单个属性值对某一类别可能性时，可考虑模糊朴素贝叶斯。传统的精确朴素贝叶斯通过精确匹配属性值的训练示例数量来计算可能性，而模糊朴素贝叶斯为每个属性值定义模糊分布，并找出每个训练示例中属性值出现的概率。在精确朴素贝叶斯中，若值不匹配，概率为零；而在模糊朴素贝叶斯中，即使值不匹配，概率也不为零，从而减少了属性值概率为零的情况。

1.2 基于核的朴素贝叶斯

基于核的学习可视为一种深度学习，它将输入向量映射到另一个空间，形成潜在的隐藏向量。通过定义两个向量的核函数，并计算其对训练示例和新向量的输出值，将核函数值大于或等于阈值的训练示例用于计算可能性。这种基于核的学习属于隐式深度学习，与显式计算隐藏值的显式深度学习相区别。

1.3 卷积朴素贝叶斯

将卷积层附加到朴素贝叶斯上，形成卷积朴素贝叶斯。卷积是一种对向量进行操作的方法，通过过滤值将一个向量映射到另一个向量，需要预先定义单个或多个过滤向量。在使用卷积朴素贝叶斯对数据项进行分类时，输入向量通过卷积映射到另一个向量，然后计算映射向量对各个类别的可能性。若定义了多个过滤向量，则会生成多个映射向量，并对它们的可能性进行平均。卷积此前常用于使用过滤矩阵对表示图像的矩阵进行过滤。

1.4 文本卷积朴素贝叶斯