QYHuiiQ

参考网上的多例，自己动手实践了一下：from sklearn.datasets import load_irisfrom sklearn.model_selection import train_test_splitimport numpy as npimport pandas as pdfrom pandas import DataFrameimport mglearnfrom...

"""使用决策树进行特征选择：决策树也是常用的特征选取方法。使用决策树集合（如随机森林等）也可以计算每个特征的相对重要性。这些重要性能够辅助进行特征选择。该方法主要使用信息增益率来进行特征选择。"""from sklearn import datasetsfrom sklearn import metricsfrom sklearn.ensemble import ExtraTre...

"""使用RFE进行特征选择：RFE是常见的特征选择方法，也叫递归特征消除。它的工作原理是递归删除特征，并在剩余的特征上构建模型。它使用模型准确率来判断哪些特征（或特征组合）对预测结果贡献较大。"""from sklearn import datasetsfrom sklearn.feature_selection import RFEfrom sklearn.linear_mod...

from sklearn.datasets import load_irisfrom sklearn.ensemble import RandomForestClassifierfrom sklearn2pmml import PMMLPipeline, sklearn2pmmlimport pandas as pdfrom pandas import DataFrameiris =...

"""随机森林算法实现对iris数据集的分类随机森林主要应用于回归和分类两种场景，又侧重于分类。随机森林是指利用多棵树对样本数据进行训练、分类并预测的一种方法。它在对数据进行分类的同时，还可以给出各个变量的重要性评分，评估各个变量在分类中所起的作用。随机森林的构建：首先利用bootstrap方法有放回地从原始训练集中随机抽取n个样本，并构建n个决策树；然后假设在训练样本数据中有m个特...