浅谈特征选择和特征抽取

机器学习中我们经常会遇到维数过高的问题，会形成“维灾难”，所以经常会有降维的处理。

常用的降维分为两类：特征选择和特征抽取

那么这两者之间有什么区别呢？

 

      特征抽取（Feature Extraction）:Creatting a subset of new features by combinations of the exsiting features.也就是说，特征抽取后的新特征是原来特征的一个映射。特征抽取经常用到一些机器学习的方法：PCA、LDA、SVD、流形学习等等。

      特征选择（Feature Selection）:choosing a subset of all the features(the ones more informative)。也就是说，特征选择后的特征是原来特征的一个子集。