8、关键机器学习算法与概念解析

关键机器学习算法与概念解析

1. 数据处理与特征工程

在构建综合模型时，特征工程是至关重要的一环。理解数据有助于确定模型中应包含哪些特征或参数，从而在不过拟合的情况下捕捉自变量和因变量之间的关系。在收集和处理模型数据时，有以下关键要点需牢记：
- 数据归一化 ：数据特征的数值可能高低差异很大，为防止这些特征对模型产生过度影响并造成偏差，必须对所有数据进行归一化处理，使各特征的数据具有一致性。
- 数据清洗 ：现实中收集的数据往往并非完美，可能包含缺失值或异常数据。处理这些问题十分重要，因为它们可能导致异常值出现，对模型产生负面影响。
- 数据理解 ：通常会对数据进行统计分析，即探索性数据分析（EDA），以更好地了解数据对模型的影响。这可能包括绘制图表、运用统计方法，甚至使用机器学习技术来降低数据的维度。

2. 分类模型构建

与产生连续输出的回归模型不同，当模型产生有限输出时，就被视为分类模型，例如电子邮件垃圾邮件检测、图像分类和语音识别等。分类模型具有很强的通用性，可应用于监督学习和无监督学习，而回归模型主要用于监督学习。部分回归模型（如逻辑回归和支持向量机）也可视为分类模型，因为它们使用阈值将连续值输出划分为不同类别。

2.1 多类别分类

分类模型输出的类别数量决定了其类型。只有两个输出的模型（如垃圾邮件和非垃圾邮件）称为二元分类器，而输出多于两个类别的模型称为多类别分类器。分类器有两种学习类型：
- 懒惰学习者 ：本质上是存储训练数据，等待