3、特征工程全解析：从数据洞察到模型优化

特征工程全解析：从数据洞察到模型优化

1. 特征工程简介

特征工程（FE）的最终目标是更好地构建原始数据。其最终输出是一个数据管道（若没有新的数据流，则为两个），用于从数据中生成特征。这些管道可以用自定义代码表示，也可以通过特征操作形式（如 scikit - learn 中的形式）来实现。

虽然多次快速迭代可减少对领域专业知识的需求，但如果有领域知识或能接触到领域专家，此时融入领域知识是个好时机，比如认识到“晚白垩世”属于“白垩世”这一类别。

若在没有新测试数据流的情况下进行 FE 过程，建议构建两个特征集：一个优化集（过拟合风险较大）和一个保守集（性能可能较差）。在最终评估中，分别对这两个特征集进行评估（算法 1.1 中的第 5 行和第 6 行）。若优化集没有显著优于保守集，则使用保守集（算法 1.1 中的第 7 行）。

以下是特征工程生命周期的算法：

Require: raw_data
Ensure: featurizer, model
1: raw_data_final_eval, raw_data_feat_eng = final_eval_split(raw_data)
2: while not good results do
3:
    featurizerC,
    modelC,
    featurizerO,
    modelO
    =
    ML_cycle(raw_data_feat_eng)
4: end while
5: resultsO = evaluate(modelO, featurizerO(raw_data_final_ev