15、深度学习中的性能指标、网络结构与训练优化

深度学习中的性能指标、网络结构与训练优化

1. 性能指标

1.1 混淆矩阵、精确率和召回率

在评估模型性能时，混淆矩阵是一个重要的工具。通过它可以计算出精确率（Precision）和召回率（Recall）等指标。例如，有如下混淆矩阵：
| | 预测为正（P） | 预测为负（N） |
| — | — | — |
| 真实为正（P） | TP = 12 | FN = 7 |
| 真实为负（N） | FP = 24 | TN = 1009 |

根据这些值，可以计算出准确率（Accuracy）、精确率和召回率：
- 准确率：$acc = \frac{12 + 1009}{12 + 7 + 24 + 1009} = 0.97$
- 精确率：$prec = \frac{12}{12 + 24} = 0.333$
- 召回率：$recall = \frac{12}{12 + 7} = 0.631$

1.2 ROC - AUC

接收器操作特征曲线（Receiver Operating Characteristic Curve，ROC）下的面积（Area Under the Curve，AUC）是评估预测分布模型准确性的标准方法。ROC 曲线展示了二元分类器的灵敏度（Sensitivity）和特异度（Specificity）之间的关系。

灵敏度即真正率（True Positive Rate，TPR），衡量的是正确分类为正例的比例；特异度即真负率（True Negative Rate，TNR），衡量的是正确分类为负例的比例。通常，真正率（TPR）会与假正率（Fal