特征选择是机器学习中关键步骤，旨在减少无关或冗余特征，提高模型效率和准确度。通常涉及产生过程、评价函数、停止准则和验证过程。产生过程包括完全搜索、启发式搜索和随机搜索，如广度优先搜索、序列前向选择和随机生成序列选择等。评价函数如信息增益、相关性和距离指标。特征选择有助于避免维度灾难，提升模型解释性。
1 综述
(1) 什么是特征选择
特征选择 ( Feature Selection )也称特征子集选择( Feature Subset Selection , FSS ) ，或属性选择( Attribute Selection ) ，是指从全部特征中选取一个特征子集，使构造出来的模型更好。
(2) 为什么要做特征选择
在机器学习的实际应用中，特征数量往往较多，其中可能存在不相关的特征，特征之间也可能存在相互依赖，容易导致如下的后果：
Ø 特征个数越多，分析特征、训练模型所需的时间就越长。
Ø 特征个数越多，容易引起“维度灾难”，模型也会越复杂，其推广能力会下降。
特征选择能剔除不相关(irrelevant)或亢余(redundant )的特征，从而达到减少特征个数，提
订阅专栏 解锁全文
扫一扫
1万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
