利用随机森林进行特征选择

Cvjark

于 2018-09-15 19:29:39 发布

阅读量1w

点赞数 2

CC 4.0 BY-SA版权

分类专栏：机器学习文章标签：机器学习特征选择随机森林

本文链接：https://blog.youkuaiyun.com/weixin_43084928/article/details/82716947

本文探讨如何利用随机森林进行特征选择。通过分析决策树的平均不纯度（基尼系数）衰减来评估特征的重要性，从而筛选掉相关度低的特征，简化模型。以wine数据集为例，介绍了随机森林的参数如n_estimators和n_jobs，并建议查阅相关文档了解更多详细信息。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

例子是wine数据集： http://archive.ics.uci.edu/ml/machine-learning-databases/wine/
之所以可以利用随即森立来进行特征筛选是由于决策树的特性，因此我们可以利用所有决策树得到的平均不纯度（基尼系数）衰减来量化特征的重要性。根据重要性可以剔除相关度很低的特征，精简模型。
接下来直接进入代码：

import pandas as pd
import numpy as np
import matplotlib.pyplot as plt

#载入数据，必要的时候可以查看下数据的情况
source_url = 'http://archive.ics.uci.edu/ml/machine-learning-databases/wine/wine.data'

最低0.47元/天解锁文章

200万优质内容无限畅学