Gin_loves_math的博客

Kolmogorov Filter数据降维模型Kolmogorov Filter方法[1]（下面称K-f法）是基于Kolmogorov-Smirnov检验而提出。K-f法重点关注了两种条件下的分布函数存在较大差距的预测变量，这些变量的值对Y值的选取有较大的决定作用，故作为重要变量。K-f方法是对二值响应变量的预测变量的筛选方法，且其预测变量的类型不做限制。具体步骤如下：首先定义与分别是给定或条件下的分布函数（条件积累概率函数）其次定义Kolmogorov系数为两分布函数差的上界的估计值分别是和的矩估

类型一：KNN（k-nearest neighbor）算法一．KNN（k-nearest neighbor）算法的具体思想，流程及优劣k指的是离此点最近的k个点，用这k个点的值估计此点的缺失值（常用平均值法）。流程：1） 计算已知类别数据集中的点与当前点之间的距离（欧式距离）2） 按距离递增次序排序3） 选取与当前点距离最小的k个点4） 统计前k个点所在的类别出现的频率5） 返回前k个点出现频率最高的类别作为当前点的预测分类二．K值确定：使用十重交叉验证：在得出k=1，2……的填好缺失值