h2728677716的博客

1.有些时候，有噪声点数据是线性不可分的，这样的话就无法以用硬间隔去做，只能用软间隔SVM。（目的：为了去解决一些线性不可分的数据集）软间隔SVM在硬间隔的基础上加入了松弛变量。2.即约束条件相对硬间隔发生了改变3.通过拉格朗日函数构造目标函数，（μ是乘子，符号可以随便起）其中要求μi 和αi>=04.优化原始问题5.变成对偶问题6.对 3 个参数分别求偏导得到一定的信息，反带回拉格朗日函数7.带回拉格朗日函数8.得到结果发现和硬间隔目...

1.我们已知SVM损失函数是带有约束条件的损失函数，对于无约束条件的损失函数求最小我们知道可以对x求导等于0求得x等于多少时y最小，但是如果我们给定一个约束条件，那么下相应的结果也会改变。2.对于SVM带有约束条件的损失函数，我们如何求W？用拉格朗日函数解决带有约束条件的最优化问题。我们要求一个函数的最优解，求这个函数最小的时候所对应的x是何值，这个函数有带有两个约束条件，，，只要问题可以写成这种形式（使用拉格朗日函数须满足的形式），那么就可以用拉格朗日函数去解决这样的问题。3.

1.线性可分支持向量机（硬间隔最大化）2.线性支持向量机（软间隔最大化）3.非线性支持向量机（升维核函数）2.线性可分数据集：在数据集中可以找到一个超平面将数据集分开线性不可分数据集：在数据集中不可以找到一个超平面将数据集分开。3.支持向量到超平面的距离都是相等的4.硬间隔最大化：超平面能够完美分类正负例，距离超平面最近的点越远越好。5.怎么确定超平面？6.找到一组最好的w,b固定一个超平面，使这个超平面在能完美区分正负例的基础上距离最近的点间隔...

1.支持向量机SVM本身是做二元分类的算法，对感知机算法模型的扩展。2.在高维空间找到m个样本作为支持向量，支撑起一个超平面，这个超平面就是分界。3.逻辑回归本质也是线性的分类器，但是它可以做非线性的分类。4.在集成学习前...