18 python数据特征选择，递归特征消除法

最新推荐文章于 2024-05-10 13:36:35 发布

原创最新推荐文章于 2024-05-10 13:36:35 发布 · 8.4k 阅读

32 ·

CC 4.0 BY-SA版权

文章标签：

#递归特征消除法 #RFE特征选择

数据挖掘实战专栏收录该内容

29 篇文章

订阅专栏

本文介绍了一种递归特征消除法（RFE），通过多轮训练保留关键特征，避免过拟合。使用线性回归作为基模型，展示了如何在Python中实现RFE，选取最重要的两个特征。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

1 递归特征消除法（RFE）

使用一个基模型来进行多轮训练，经过多轮训练后，保留置顶的特征数

RFE是recursive feature elimination回归特征消除，让回归特征消除过程中只保留no_features个最重要的特征，可以避免过度拟合，但RFE会舍弃一些变量，原没有下面几个方法给变量赋权重来的好。

2 代码案例

import pandas

data = pandas.read_csv('D:\\database\\pystudy\\6.2\\data2.csv')


# 导入RFE方法和线性回归基模型

from sklearn.feature_selection import RFE

from sklearn.linear_model import LinearRegression

# 自变量特征

feature=data[['月份','季度','广告费用','客流量']]

rfe=RFE(
        estimator=LinearRegression(), # 选择lin线性回归为基模型
        n_features_to_select=2   # 选区特征数 
        )

# fit 方法训练选择特征属性

sFeature=rfe.fit_transform(feature,data['销售额'])

feature.columns[rfe.get_support()] #查看满足条件的属性