随机森林降维

最新推荐文章于 2024-01-03 15:57:52 发布

每天都要快乐鸭

最新推荐文章于 2024-01-03 15:57:52 发布

阅读量960

点赞数

文章标签：随机森林 python 机器学习

本文链接：https://blog.youkuaiyun.com/qq_41047969/article/details/125026800

版权

本文介绍了一种使用随机森林回归器进行特征选择的方法，并展示了如何通过绘制特征重要性图表来评估不同特征对模型预测能力的影响。此外，还介绍了如何利用`SelectFromModel`类进一步筛选出最具影响力的特征。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
from sklearn.ensemble import RandomForestRegressor
from sklearn.feature_selection import SelectFromModel
# read the data
train=pd.read_csv("xxx.csv")
usedcols=['xxx', 'xxx','xxx']
df = pd.DataFrame(train,columns=usedcols)

model = RandomForestRegressor(random_state=1, max_depth=10)
df=pd.get_dummies(df)
model.fit(df,train.xxx)
#plot the feature importance graph
features = df.columns
importances = model.feature_importances_
indices = np.argsort(importances)[-9:] # top 10 features
plt.title('Feature Importances')
plt.barh(range(len(indices)), importances[indices], color='b', align='center')
plt.yticks(range(len(indices)), [features[i] for i in indices])
plt.xlabel('Relative Importance')
plt.show()

feature = SelectFromModel(model)
Fit = feature.fit_transform(df, train.xxx)