13、机器学习分类算法：朴素贝叶斯与决策树的深入解析

机器学习分类算法：朴素贝叶斯与决策树的深入解析

1. 朴素贝叶斯在短信分类中的应用

1.1 模型初步表现

在短信分类任务中，对 1390 条短信进行分类，仅有 6 + 30 = 36 条短信被错误分类，错误率为 2.6%。其中，1207 条正常短信中有 6 条被误判为垃圾短信，183 条垃圾短信中有 30 条被误判为正常短信。考虑到投入的精力较少，这个表现相当出色，这也体现了朴素贝叶斯成为文本分类标准方法的原因。

1.2 模型优化

为了进一步提升模型性能，我们发现训练模型时未设置拉普拉斯估计值。这会导致在训练数据中仅出现在垃圾短信或正常短信中的单词，在分类过程中具有决定性作用。例如，“ringtone”仅出现在训练数据的垃圾短信中，但不能就此判定包含该词的所有短信都是垃圾短信。

具体操作步骤如下：
1. 构建新的朴素贝叶斯模型，设置拉普拉斯估计值为 1：

sms_classifier2 <- naiveBayes(sms_train, sms_train_labels,
    laplace = 1)

2. 进行预测：

sms_test_pred2 <- predict(sms_classifier2, sms_test)

3. 使用交叉表比较预测类别和实际分类：