缺失值填补:超越简单填补
本文探讨了两种超越简单填补的缺失值填补方法:迭代填补器(Iterative Imputer)和 KNN 填补器(KNN Imputer)。
简单填补的局限性:
- 简单填补器只考虑单个特征,例如用平均值、中位数或众数填补年龄缺失值。
- 这种方法忽略了特征之间的关联性。例如,如果年龄与票价存在关联,则应根据票价的高低来填补年龄。
多元方法的优势:
- 迭代填补器和 KNN 填补器都是多元方法,它们考虑多个特征之间的关系。
迭代填补器的原理:
- 迭代填补器首先训练一个回归模型,以已知值的特征(例如 A 和 B)来预测目标特征(例如 C)。
- 然后,它使用训练好的模型来预测缺失值的特征 C。
- 迭代填补器使用的回归模型独立于最终训练的模型,即使最终模型不是回归模型。
KNN 填补器的原理:
- KNN 填补器根据特征 A 和 B 的相似性,找到与缺失值所在行最相似的 K 个邻居行。
- 它使用这 K 个邻居行的特征 C 的值来填补缺失值。
- KNN 填补器中的 K 值(例如 2)决定了用于填补的邻居数量。
结论:
迭代填补器和 KNN 填补器提供了更复杂、更准确的缺失值填补方法,它们考虑了特征之间的关系,从而可以更有效地填补缺失值。
需要比SimpleImputer更好的缺失值填补方法?试试KNNImputer或IterativeImputer(受R的MICE包启发)。两者都是多元方法(它们会考虑其他特征!)。