4、贝叶斯分类器：概率、属性处理与模型应用

贝叶斯分类器：概率、属性处理与模型应用

1. 贝叶斯分类与朴素贝叶斯原理

在贝叶斯分类中，我们常使用贝叶斯公式来确定对象的类别。假设有一个对象 $x = [shape=square, crust - size=thick, crust - shade=gray, filling - size=thin, filling - shade=white]$，存在“pos”和“neg”两个类别。我们分别计算每个类别的贝叶斯公式分子，然后选择值更高的类别。在训练集中，每个类别的代表数量相同，即 $P(pos) = P(neg) = 0.5$。

以下是相关的条件概率：
|条件概率|pos 类|neg 类|
| ---- | ---- | ---- |
|$P(shape=square|pos)$|$1/6$|$2/6$|
|$P(crust - size=thick|pos)$|$5/6$|$5/6$|
|$P(crust - shade=gray|pos)$|$1/6$|$2/6$|
|$P(filling - size=thin|pos)$|$3/6$|$1/6$|
|$P(filling - shade=white|pos)$|$1/6$|$2/6$|

根据这些值，可计算出：
$P(x|pos) = \prod_{i = 1}^{n} P(x_i|pos) = \frac{1}{6} \times \frac{5}{6} \times \frac{1}{6} \times \frac{3}{6} \times \frac{1}{6} = \frac{15}{6^5}$
$P(x|neg) = \p