基于随机森林的特征选择-降维-回归预测——附代码

目录

摘要：

1.随机森林：

2.随机森林的特征选取：

3.基于Matlab自带的随机森林函数进行特征选取具体步骤

（1）加载数据

（2）首先建立随机森林并使用全部特征进行车辆经济性预测

（3）使用随机森林进行特征选择

（4）评价各个特征之间的相关性

（5）使用筛选后的特征进行测试

4.本文Matlab代码

---

摘要：

演示如何通过Matlab自带的随机森林函数进行特征选择，筛选出大量特征数据中对于回归预测最重要的特征，并对各特征进行重要性排序，充分反应不同特征的重要性。演示如何在种植随机树林时为数据集选择适当的拆分预测变量选择技术。随机森林特征筛选一种特征选择技术，特征选择( Feature Selection )也称特征子集选择( Feature Subset Selection , FSS )，或属性选择( Attribute Selection )。是指从已有的M个特征(Feature)中选择N个特征使得系统的特定指标最优化，是从原始特征中选择出一些最有效特征以降低数据集维度的过程,是提高学习算法性能的一个重要手段,也是模式识别中关键的数据预处理步骤。对于一个学习算法来说,好的学习样本是训练模型的关键。

已写好输入输出结构，方便使用者通过替换自己的数据实现不同的功能，注释详细

适合数学建模等直接应用

1.随机森林：

随机森林算法（Random Forest，RF）是一种 新型机器学习算法，是利用多棵决策树对样本进行训练并集成预测的一种分类器，它采用Boot‐ strap重抽样技术从原始样本中随机抽取数据构 造多个样本，然后对每个重抽样样本采用节点的 随机分裂技术构造多棵决策树，最后将多棵决策树组合，并通过投票得出最终预测结果。

根据下列算法而建造每棵树 ：

1.用N来表示训练用例（样本）的个数，M表示特征数目。

2.输入特征数目m，用于确定决策树上一个节点的决策结果；其中m应远小于M。