15、使用k近邻和朴素贝叶斯进行分类及决策树算法详解

使用k近邻和朴素贝叶斯进行分类及决策树算法详解

1. k近邻和朴素贝叶斯分类性能评估

在分类任务中，我们需要评估分类器的性能。以一个测试数据集为例，我们可以使用以下代码进行分类预测：

TEST$Classified = predict(Classify,TEST[1:3])
table(TEST$Survived,TEST$Classified)

输出的混淆矩阵如下：
| | No | Yes |
| — | — | — |
| No | 645 | 60 |
| Yes | 186 | 168 |

从这个混淆矩阵中，我们可以计算出多个性能指标：
- 真正率（灵敏度） ：真正例数除以真正例数与假负例数之和。在这个例子中，灵敏度为 168 / (168 + 186) = 0.4745763 。
- 真负率（特异度） ：真负例数除以真负例数与假正例数之和。这里特异度为 645 / (645 + 60) = 0.9148936 。
- 正预测值（精度） ：真正例数除以真正例数与假正例数之和。精度为 168 / (168 + 60) = 0.7368421 。
- 负预测值 ：真负例数除以真负例数与假负例数之和。负预测值为 645 / (645 + 186) = 0.7