6、机器学习数据模型探索

机器学习数据模型探索

在机器学习领域，有多种数据模型可供选择，每种模型都有其独特的特点和适用场景。本文将详细介绍高斯朴素贝叶斯（Gaussian Naive Bayes）、k近邻（k-NN）和决策树分类器（Decision Tree Classifier）这三种常见的数据模型，并通过具体的示例代码展示它们的使用方法。

高斯朴素贝叶斯（Gaussian Naive Bayes）

高斯朴素贝叶斯是朴素贝叶斯算法在处理实值属性时的扩展，通常假设数据服从高斯分布。这种扩展之所以常用，是因为高斯分布只需要计算均值和标准差，计算相对简单。

计算均值和标准差

对于每个类别下的每个输入变量 (x)，其均值和标准差的计算公式如下：
- 均值：(\text{mean}(x) = \frac{1}{n} \sum(x))
- 标准差：(\text{standard deviation}(x) = \sqrt{\frac{1}{n} \sum(x_i - \text{mean}(x))^2})

其中，(n) 是实例的数量，(x) 是输入变量的值。

计算概率

新的 (x) 值的概率可以使用高斯概率密度函数（PDF）来计算：
(\text{pdf}(x, \text{mean}, \text{sd}) = \frac{1}{\sqrt{2 \pi} \cdot \text{sd}} \cdot \exp\left(-\frac{(x - \text{mean})^2}{2 \cdot \text{sd}^2}\right))

其中，(\text{pdf}(x)) 是高斯