8、机器学习分类算法的性能评估与实现

机器学习分类算法的性能评估与实现

在机器学习中，分类算法是一项重要的任务。在实施分类算法之前，评估分类器的性能至关重要。同时，线性回归和逻辑回归都可以用于分类任务，但它们各有特点。

1. 性能评估指标

在开始编写分类算法之前，需要能够检查结果的成功与否。以下是一些常用的性能评估指标：
- 准确率（Accuracy） ：
- 准确率的计算方式类似于学校考试中计算得分的方法，即正确答案的数量除以总问题数。公式为：$准确率 = \frac{#correct}{#total}$。
- 例如，在一个有100个问题的考试中，答对了80个，准确率就是80%。在机器学习分类问题中，准确率能提供一个关于算法整体正确性的粗略总结，但它不能揭示每个标签的正确和错误结果的细分情况。
- 混淆矩阵（Confusion Matrix） ：
- 以二元分类器为例，有“正”和“负”标签。混淆矩阵是一个表格，用于比较预测响应与实际响应。
- 真正例（True Positives，TP）：正确预测为正的项目；假正例（False Positives，FP）：错误预测为正的项目；假负例（False Negatives，FN）：错误预测为负的项目；真负例（True Negatives，TN）：正确预测为负的项目。
- 例如，在识别猫和狗的图片中，有40张猫的图片和60张狗的图片。分类器将10张猫的图片识别为狗，20张狗的图片识别为猫，其混淆矩阵如下：
| | 预测为猫 | 预测为狗 |
| — | — | — |
| 实际为猫 | 30（TP） | 10（FN） |