zhuchengzhang的专栏

今天开始会持续学习一些state-of-art的特征选择方法，跟大家分享一下学习的心得和这些方法的主要思想，希望能对同志们的工作有所启发。     首先我们看的是一篇2005年发表在PAMI（IEEE Transactions on Pattern Analysis and Machine Intelligence）上的文章《Feature Selection Based on Mutual

之前看过了mRMR的方法了，从特征与目标的最大相似度和特征与特征间的最小冗余出发来寻找特征子集。这样的方法的确是不错的，在实验中取得了鲁棒的效果。但是经过和别的方法对比后发现，该方法目前在选择特征上以及不能算登峰造极了。或许大家仔细思考后可以发现，这个方法最大的一个短板就是对我们定义的相似度函数以及冗余函数敏感。也就是说我们定义不同的相似度函数和冗余函数可能造成差距较大的结果。而我们又如何保证自己

之前已经看过两种特征选择的方法，一个是从局部结构出发，一个是从整体优化出发。这两中方法都取得了比较好的效果。那么，有没有既考虑局部结构又顾及总体优化呢的方法呢？聪明的研究者们的确想到了这两手抓两手都要硬的方法。今天我们就来看一种先从局部机构考虑，同时进行整体优化的好方法——高维数据分析中基于局部学习的特征选择方法（《Local Learning Based Feature Selection