Coding___Man的博客

1、经验误差与过拟合经验误差：一般的，我们把学习器的实际预测输出与样本的真实输出之间的差异称为“误差”，学习器在训练集上的误差称为“训练误差”或“经验误差”，在新样本上的误差称为“泛化误差”；        通常我们想要的一个学习器是能够通过训练样本的学习后能较准确的去预测或分类新的未知的数据，但实际上往往不会如想象中那么顺利，学习器在学习的时候通常会出现两中情况，一是学习得太好，将训练数...

1、基本形式          对含有d个特征的数据x，线性模型试图学得一个通过特征的线性组合来进行预测的函数：                                       f(x) =  w1x1 + w2x2 + .......wdxd + b 一般用向量形式写成：                                      f(x)  =  w^...

1. 神经元模型神经网络/人工神经网络：由具有适应性的简单单元组成的广泛并行互连的网络。神经网络学习：机器学习和神经网络两个学科交叉的部分。Neural Networks中的基本单元：神经元。从计算机科学的角度，NN就是一个包含了大量参数的数学模型，该模型由若干个函数相互代入而成。2. 感知机与多层网络感知机，实际由两层神经元组成。输入层和输出层。更一般的，神经...

1、基本流程      决策树通常从一个最基本的问题出发，通过这个判定问题来对某个“属性”进行“测试”，根据测试的结果来决定导出结论还是导出进一步的判定问题，当然，这个判定范围是在上次决策结果的限定范围之内的。      出发点一般称为根节点，其他的判定位置称为节点，得到的结果一般称为叶，不同的判定导致的不同走向称为枝，这样，一颗完整的决策树就呈现了出来。      决策树学习的目的是...