weixin_45592399的博客

目录支持向量机模型策略算法软间隔与正则化软间隔优化目标（策略）支持向量回归（SVR）策略邱恩杰支持向量机二分类学习最基本的想法就是基于训练集D在样本空间中找到一个划分超平面。支持向量机从集合几何角度来看，对于线性可分数据集，支持向量机就是找距离正负样本都最远的那个超平面。相比于感知机：其解唯一，且泛化性能更好模型策略我们希望找到具有“最大间隔”的划分超平面。最后得到优化问题算法想要求解上述式子，得到最优解，以确定这个划分超平面所对应的模型求解：对于式子6.6的求解，这个优化问

目录5.1 神经元模型M-P精神元模型激活函数5.2 感知机感知机（模型）损失函数（策略）随机梯度下降法（算法）5.3 误差逆传播算法（BP算法）神经网络BP算法全局最小与局部极小5.1 神经元模型这是生物上神经元的一个作用。M-P精神元模型1943年，Miculloch和Pitts受到生物神经网络启发，将生物上的神经元情形抽象，提出了机器学习中的“M-P神经元模型”。如图所示①这里的xi就表示来自第i个神经元的输入。这个神经元会收到n个来自其他神经元传递过来的输入信号。与前面线性回归中一个

目录决策树决策树学习基本算法划分选择1.信息增益信息熵信息增益（information gain）①ID3决策树2.增益率②C4.5决策树启发式规则3.基尼指数基尼值基尼指数③CART决策树决策树决策树学习基本算法划分选择决策树学习的关键就是 如何进行划分 。如图所示，划分选择有三种划分方式。基于“信息增益”的划分，基于“增益率”的划分，基于“基尼指数”的划分。三种划分方式对应了三种著名的决策树学习算法信息增益：ID3决策树增益率:C4.5决策树基尼指数：CART决策树先了解一些什么