8、机器学习关键算法与概念解析

机器学习关键算法与概念解析

1. 特征工程与数据处理

特征工程是构建全面模型的关键部分。理解数据有助于确定模型中应包含哪些特征或参数，从而在不导致过拟合的情况下捕捉自变量和因变量之间的关系。在收集和处理模型数据时，需牢记以下要点：
- 数据归一化 ：数据特征值可能高低差异很大，为防止某些特征主导模型并产生偏差，必须对所有数据进行归一化处理，使各特征数据具有一致性。
- 数据清洗 ：现实中收集的数据往往存在缺陷，可能包含缺失值或异常值。处理这些问题很重要，因为它们可能导致离群点，对模型产生负面影响。
- 数据理解 ：通常会对数据进行统计分析，即探索性数据分析（EDA），以更好地理解数据对模型的影响。这可能包括绘制图表、运用统计方法，甚至使用机器学习技术降低数据维度。

2. 分类模型构建

与产生连续输出的回归模型不同，分类模型的输出是有限的类别。例如，电子邮件垃圾邮件检测、图像分类和语音识别等都是分类模型的应用场景。分类模型具有很强的通用性，可应用于监督学习和无监督学习，而回归模型主要用于监督学习。部分回归模型（如逻辑回归和支持向量机）也可视为分类模型，因为它们通过设定阈值将连续输出划分为不同类别。

分类模型根据输出类别数量可分为两类：
| 模型类型 | 输出类别数量 | 示例 |
| ---- | ---- | ---- |
| 二元分类器 | 2个（如垃圾邮件和非垃圾邮件） | 邮件垃圾检测 |
| 多类分类器 | 超过2个 | - |

分类器又可分为两种