10、机器学习分类器的性能评估与优化

机器学习分类器的性能评估与优化

1. 分类器性能指标基础

在机器学习的分类任务中，评估分类器的性能至关重要。常见的性能指标包括真正率（TPR）、精确率（Precision）、召回率（Recall）和 F1 分数等。

1.1 真正率（TPR）与召回率

真正率（TPR）是指分类器正确检测到的正例的比例，它与召回率的概念相同，计算公式如下：
[ recall = \frac{TP}{TP + FN} ]
其中，TP 是真正例的数量，FN 是假反例的数量。

1.2 精确率与召回率的计算

使用 Scikit-Learn 可以方便地计算精确率和召回率，示例代码如下：

from sklearn.metrics import precision_score, recall_score
# 假设 y_train_5 是真实标签，y_train_pred 是预测标签
precision_score(y_train_5, y_train_pred)  # 计算精确率
recall_score(y_train_5, y_train_pred)  # 计算召回率

1.3 F1 分数

F1 分数是精确率和召回率的调和平均值，它综合考虑了两者的性能，计算公式如下：
[ F1 = \frac{2}{\frac{1}{precision} + \frac{1}{recall}} = \frac{2 \times precision \times recall}{precision + recal