深度学习-SVM算法

• SVM和KNN分类的对比
  • KNN：确定一个k值，判断某个元素属于哪类（临近原理）（分类算法）

    

  • SVM:（分类算法）先找到决策边界，再看元素属于哪一类

    

• SVM分类原理

  

  • 先找支持向量积，再找决策边界
  • 支持向量越小越好，排除离自己最近的雷才安全（要考虑离自己最近的雷才安全）
  • 决策边界越大越好，路越宽，才能行动快，更不易踩雷
• 1.距离计算（点到面的距离）
  • 确定点，假设面

    

• 2.目标函数
  • 2.1：找到一条线，使得离该线最近的点能够最远。

    

  • 放缩变换和优化目标

    

• 3.部分数学原理
  • 拉格朗日乘子法，在约束条件下求极值的问题
  • 简化最终目标函数
• 4.软间隔优化
  • 考虑一些异常的噪音，让分类更合理。（引入松弛因子）
  • 目标函数的变化（能够体现容错能力）
• 5.核函数
  • 升维，二位的变成三维的，可能能够很好的用平面分开。