m0_67794575的博客

常用度量。

总的来说，foresttrain函数更加灵活，可以通过调整参数来控制随机森林的构建过程，而tree bagger函数更加简单易用，适合快速构建随机森林模型。这种随机性导致随机森林的偏差会有稍微的增加（相比于单棵不随机树），但是由于随机森林的“平均”特性，会使得它的方差减小，而且方差的减小补偿了偏差的增大，因此总体而言是更好的模型。GBDT 的核心在于累加所有树的结果作为最终结果，GBDT 的每一棵树都是以之前树得到的残差来更新目标值，这样每一棵树的值加起来即为 GBDT 的预测值。

MAtlab的基础知识，用于数学建模和机器学习还是足够了

虽然matlab中有自带的svm算法但是效果没有台湾教授的libsvm效果好。svmpredict.mexw64改为libsvmpredict.mexw64。svmtrain.mexw64改为libsvmtrain.mexw64。然后保存在一个文件夹下，注意：1.windows_ 要删除。将所有的文件放在matlab的一个安装目录下，位置都可以。下面介绍一下如何在matlab上实现libsvm。然后在路径中添加这个文件夹的位置就可以了。然后给一个测试的代码。

惯性权重w一般取0.9-1.2较为合适，一般取0.9。c1:个体学习因子，也称为个体加速因子。

单个感知器的学习规则：点的分类问题 序号 x y 所属类型 1 -9 15 0 2 1 8 1 3 -12 4 0 4 -4 5 0 定义函数类型为阈值型函数。现在认为有一个函数为w1*x+w2*y+b=0可以将所属类型划分为1或0。用矩阵定义为w=[w1 w2 b]; p=[x y 1]'。第一步定义一个可以变化（学习的w矩阵）：期望输出为d=[0 1 0 0] ,实际输出为y，