weixin_46060288的博客

11.1 子集搜索与评价相关特征：有用的属性无关特征（冗余特征）：没有用属性特征选择：选出相关特征，确保不丢失重要特性（先特征选择，然后在训练学习器）为什么要特征选择呢？1.遭遇维数灾难2.降低学习难度特征选择方法：1.不可行方法：遍历所有子集2.可行方法：产生初始候选子集（子集搜索），然后评价候选子集的好坏（子集评价），之后基于评价结果产生下一个候选子集。子集搜索：前向搜索，后向搜索和双向搜索前向搜索：最有子集最初为空集，逐渐增加相关特征后向搜索：从完整特征集合开始，逐渐减少无关

原因：维数灾难（在高维情形下出现数据样本稀疏，距离计算困难等问题）方法：降维（维数约简）为什么可以进行降维（高维到低维）？答：高维数据数据样本中，与学习任务密切相关也许是某个低维分布。10.4.核化线性降维非线性降维的一种常用方法，是基于核技巧对线性降维方法进行“核化”（ kernelized）...