python 线性回归回归 缺失值 忽略_机器学习 第3篇：数据预处理（使用插补法处理缺失值）...

插补法可以在一定程度上减少偏差，常用的插补法是热卡插补、拟合插补和多重插补。拟合插补，要求变量间存在强的相关性；多重插补(MCMC法)，是在高缺失率下的首选插补方法，优点是考虑了缺失值的不确定性。

一，热卡插补

热卡填充(Hot deck imputation)也叫就近补齐，对于一个包含空值的对象，热卡填充法在完整数据中找到一个与它最相似的对象，然后用这个相似对象的值来进行填充。通常会找到超出一个的相似对象，在所有匹配对象中没有最好的，而是从中随机的挑选一个作为填充值。这个问题关键是不同的问题可能会选用不同的标准来对相似进行判定，以及如何制定这个判定标准。该方法概念上很简单，且利用了数据间的关系来进行空值估计，但缺点在于难以定义相似标准，主观因素较多。

二，拟合插补

拟合插补法则是利用有监督的机器学习方法，比如回归、最邻近、随机森林、支持向量机等模型，对缺失值作预测，其优势在于预测的准确性高，缺点是需要大量的计算，导致缺失值的处理速度大打折扣。虽然替换法思想简单、效率高效，但是其替换的值往往不具有很高的准确性，于是出现了插补方法。

1，回归插补

基于完整的数据集，建立回归方程。对于包含空值的对象，将已知属性值代入方程来估计未知属性值，以此估计值来进行填充。当变量不是线性相关时会导致有偏差的估计。缺失值是连续的，即定量的类型，才可以使用回归来预测。

2，最邻近填充

利用knn算法填充，其实是把目标列当做目标标量，利用非缺失的数据进行knn算法拟合，最后对目标列缺失进行预测。(对于连续特征一般是加权平均，对于离散特征一般是加权投票)

from sklearn.neighbors importKNeighborsClassifier, KNeighborsRegressordef knn_filled_func(x_train, y_train, test, k = 3, dispersed =True):#params: x_train 为目标列不含缺失值的数据(不包括目标列)

#params: y_train 为不含缺失值的目标列

#params: test 为目标列为缺失值的数据(不包括目标列)

ifdispersed:

knn= KNeighborsClassifier(n_neighbors = k, weights = "distance")else:

knn= KNeigh