9、计算机视觉中的机器学习与深度学习：从基础到应用

计算机视觉中的机器学习与深度学习：从基础到应用

1. 特征 - 目标关系确定方法

在构建机器学习 - 计算机视觉系统时，确定特征与目标之间的关系至关重要。以下是根据特征变量类型和目标变量类型选择统计方法的实用指南：
| 特征变量类型 | 目标变量类型 | 统计方法名称 |
| — | — | — |
| 连续型 | 连续型 | 皮尔逊相关性 |
| 连续型 | 分类型 | 线性判别分析（LDA） |
| 分类型 | 分类型 | 卡方检验 |
| 分类型 | 连续型 | 方差分析（ANOVA） |

2. 特征选择方法

2.1 包装法（Wrapper Method）

包装法是一种通过不断尝试不同特征子集来训练模型的方法。具体操作流程如下：
1. 选择一个特征子集来训练模型。
2. 评估模型性能。
3. 根据评估结果，添加或移除特征，然后重新训练模型。
4. 重复上述步骤，直到获得一个具有可接受精度的模型。

包装法的常见实现方式有：
- 前向选择（Forward selection） ：从一个特征开始构建并评估模型，然后逐步添加能最有效提升模型性能的特征。
- 后向消除（Backward elimination） ：从所有特征开始构建并评估模型，然后逐步消除特征，直到获得最佳模型。持续此过程，直到移除特征不再能提升模型性能。
- 递归特征消除（Recursive feature elimination）