1、机器学习特征工程实用指南

机器学习特征工程实用指南

1. 特征工程的重要性

在机器学习领域，人们常常过于关注算法，如卷积神经网络和 XGBoost 等。然而，“输入的是垃圾，输出的也是垃圾”，特征的质量有时比机器学习算法本身更为重要。尽管特征学习取得了进展，如神经网络中的嵌入技术，但特征工程仍然至关重要，特别是在处理分类、数值和时间序列特征时，它是一项关键技能。合适的特征可以显著提高模型性能，使模型更具可解释性和鲁棒性。

2. 适用人群

本书适合机器学习和数据科学的学生与专业人士，以及参与部署机器学习模型的软件工程师。无论你是初学者还是有经验的从业者，都能通过学习提升数据转换和特征创建的技能，从而优化模型训练。它为对特征工程感兴趣或正在从事相关工作的人提供了清晰的指导，帮助你理解操作内容、方法及重要性，掌握实用技巧和详细解释，有效掌握特征工程。

3. 特征工程的主要技术

以下是特征工程涉及的主要技术：
|技术类型|具体内容|
| ---- | ---- |
|缺失值处理|包括数值、分类和时间序列数据的缺失值替换，涵盖单值和多值插补方法，可借助 scikit - learn 和 Feature - engine 简化插补过程。|
|分类变量编码|将分类变量转换为数值特征，有常见的独热编码和序数编码，也有针对高基数和线性模型的调整方法，还涉及特定领域的编码方法，如证据权重编码，并介绍如何避免过拟合。|
|数值变量转换|探讨何时以及为何需要对变量进行转换以用于机器学习模型，介绍不同的变量转换函数，如对数、倒数、平方根、幂变换、Box - Cox 变换和 Yeo - Johnson 变换等，并说明适合的变量类型。|