SVM支持向量机白板推导

墨衍会员 · AI 创作全网分发 墨衍智能分发 本文由作者通过墨衍一键同步至各平台 1分发平台 200+累计阅读 238平均单平台已同步平台优快云微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网我也要 → 码龄7年

关注

原创最新推荐文章于 2026-09-20 16:51:06 发布 238 阅读 AI 写同款· GEO 优化 ›

【白板推导系列笔记】支持向量机-软间隔SVM-模型定义我们的训练数据通常不是理想的线性可分，有时甚至是线性不可分的数据。再考虑loss为支持向量另一侧的向量以及误分类的向量到过支持向量平行于超平面的距离的和，即。最简单的想法，我们可以让loss为支持向量另一侧的向量以及误分类的向量，即。显然这个函数是不连续的，因此是不可导的，不利于优化求解，因此不使用这种方法。可以理解为向量到过支持向量平行于超平面的距离），因此上式转化为。转化成这个式子每一步都能看懂，但总觉得自己哪里没理解。求解在《统计机器学习》里面有，可以去看看。也被称为合页损失函数，如下图。阅读详情

一、 hard_margin SVM

在这里插入图片描述

二、 soft_margin SVM

在这里插入图片描述

三、核方法

在这里插入图片描述

本文非原创，为看讲解视频的笔记。原视频链接为https://www.bilibili.com/video/BV1aE411o7qd?p=36

收录于

当前文章被以下社区和专栏收录：

Altium Designer20 PCB板子绘制版层 top layer 顶层 bottom layer 底层设置板子大小布局过孔 top layer层连到bottom layer层。通过via连接。设置线宽在design rules里可以设置线宽。右键new rule 可以新增线宽，电源设置成20mil 还可以设置很多其他的线宽修改安全距离安全距离太短容易出现毛刺，然后短路，一般设置成20mil 修改元器件旋转角度修改rotation step，每次旋转45°。修改光标大小下面的cursor type是修改光标阅读详情

相关推荐

AGM Supra软件从零到一：国产CPLD工程创建全流程拆解

本文详细拆解了AGM Supra软件从零开始创建国产CPLD工程的全流程，包括开发环境配置、工程创建、Quartus项目转换、TCL脚本执行与编译等关键步骤。特别强调了中文路径避坑、器件型号选择等实用技巧，帮助开发者高效完成CPLD开发任务。

weixin_29158413的博客 410

白板推导系列Pytorch-支持向量机(SVM)

白板推导系列Pytorch-支持向量机(SVM) 支持向量机的代码实现主要是SMO算法的实现，我参考了下面这篇博客 https://www.cnblogs.com/lsm-boke/p/12317200.html 该博客中使用numpy实现的svm，我对numpy版本做了一点修改，并且使用pytorch的API写了一个新版本，但除了函数名不同基本一致，只是numpy版本的收敛速度比pytorch要快很多。另外我调用了sklearn中的svm，速度都远超这两个实现 pytorch版本导入所需的包 impor

孤独腹地的博客 8713

同源策略与跨域

前言：最近业务上前端同学多次联系说访问腾讯云cos资源的时候因为跨域的问题访问不到。大致看了下腾讯云关于设置跨域访问的教程，按照前端同学给的域名等选项就给配了，而且测试下来也是好的。但是呢一直不知道什么是跨域这里就做一个简单的学习记录。一、同源策略同源策略(Same Origin Policy)是一种约定，它是浏览器最核心也是最基本的安全功能。同源策略会阻止一个域的javascrip脚本和另一个域的内容进行交互，是用于隔离潜在恶意文件的关键安全机制；关于这一点我们后面会举例说明。...

mijichui2153的博客 1万+

机器学习 [白板推导]（五）[支持向量机]

之前的分类算法中，模型致力于寻找一个超平面，可以将训练集中的两类样本分开，但这个超平面理论上存在无数个，它们在训练集上的分类效果可能是相同的，但模型的鲁棒性是不同的，为了寻找最鲁棒的模型，SVM便想要寻找一个所有样本总间隔最大的超平面。首先定义间隔：假设通过一个超平面 f(x⃗)=sign(w⃗Tx⃗+b)f(\vec{x})=sign\left (\vec{w}^T\vec{x}+b \right )f(x)=sign(wTx+b)，可以完美拟合训练集所有样本，即对任意样本 iii，都有 yi

weixin_53196770的博客 1261

R语言计算植物群落重要值：从基础概念到优势种判定

在植被生态学研究中，重要值是衡量物种在群落中地位的核心指标，它综合了相对多度、相对频度与相对显著度三个维度，能够客观反映物种的数量优势、分布广度与空间占据能力。理解重要值的生态学逻辑，是开展群落分类、优势种判定及多样性分析的基础。而R语言凭借其批量处理、可复现和与后续多元统计无缝衔接的优势，成为生态学研究者处理样方数据的高效工具。从野外记录的宽表到标准化长表，再到分组汇总计算相对指标，R语言能够显著提升数据处理效率与准确性。本文以实测群落数据为例，系统梳理重要值的两种算法口径、基于dplyr和tidyr的完

weixin_42634811的博客 265

echarts实现3D地图——map3D

【代码】echarts实现3D地图——map3D。

xiaoququ的博客 7321

机器学习-白板推导学习笔记-6支持向量机SVM1

本篇文章是根据视频（link.）所作的学习笔记，旨在对机器学习的相关知识更好的理解和巩固。本人基础较弱，推导中看不懂的公式可能会细究，如果有理解不当之处也欢迎指出。之前介绍感知机算法的时候说到希望找到一个超平面，是两类数据不分错。我们想一下，仅仅要求不分错数据的超平面可能不止一个，而支持向量机SVM就是来寻找这个最优的超平面。怎么去定义和寻找这个最优超平面，就是本篇要介绍的内容。依然采用判别模型对数据进行分类。硬间隔SVM（hard-margin SVM）硬分隔SVM也叫做最大间隔分类.

gigglehuahua的博客 1300

比较几款国际主流的电子元器件及物料清单管理软件 – 工具汇总

Arenasolution 老牌的基于云计算物料清单管理软件，bom.com就是他们家的，10天免费试用，功能被分成4个不同的产品, 和传统ERP功能上有重叠，偏向于物流生产规划，一定程度可以取代ERP的生产规划模块，平均价格70美元/月/席位。网页客户端，不支持离线 SiliconExpert 曾经的老牌物料清单管理软件，后被Arrow 收购，14天免费试用，功能被分成4个不同的产品

u012062784的专栏 7235

白板推导系列 - SVM支持向量机

支持向量机 视频地址 https://www.bilibili.com/video/av28186618 非常感谢这位up！真的好感谢！讲的很清楚！膝盖都跪碎了！感谢b站up主@shuhuai008 P1: 硬间隔SVM - 模型定义(最大间隔分类器) SVM有三宝：间隔，对偶，核技巧 SVM的三种类别： 1）Hard-Margin SVM 硬间隔SVM 2）Soft-Margin SVM 软间...

xiaomlu的博客 1208

麒麟V10桌面操作系统安装Qt5.12.3

在虚拟机中如何安装麒麟V10桌面系统，以及在麒麟系统中安装Qt框架，并正常编译运行Qt程序

阿龙的思考 3599

【YOLOs-CPP-图像分类部署】04-项目优化（加速部署）

本文详细介绍了将YOLO图像分类C++部署项目从CMake迁移到Visual Studio控制台应用的全过程。针对低配CPU性能瓶颈问题，作者通过替换多线程HPP代码为官方实现，并采用448x448固定输入尺寸优化推理速度。项目配置包含OpenCV和ONNX Runtime环境设置，实现了图像批量处理、分类结果显示及结果日志输出功能。关键步骤包括依赖库配置、DLL部署和代码调试，最终在Windows平台成功实现高效CPU推理。该方案显著提升了低配硬件的兼容性，为图像分类任务提供了稳定的部署解决方案。

深耕CV 353

简单易懂的SVM白板推导

深度学习大热，机器学习也不能落下！首先我们要知道SVM是判别模型。让我们一起推导吧。个人认为点到超平面的距离公式推导简单易懂得多。有些同学可能会疑问③式怎么来的？这里补上

weixin_46249816的博客 360

基于四旋翼模型的火箭型无人机视线角保持控制仿真设计

本文针对火箭型无人机的视线角保持控制问题展开研究。基于四旋翼动力学模型，通过改造设计了一种摄像头朝上安装的特殊无人机系统，用于追踪空中目标。文章详细推导了坐标系定义、运动学和动力学方程，重点分析了摄像头安装与视线几何关系，建立了目标运动模型和视线向量计算方法。通过解算期望姿态角，实现了使机体Z轴始终对准目标的控制目标。仿真结果表明，该系统能有效完成视线角保持任务，为空对空监视等应用场景提供了可行方案。~~~~~

huanghm88的专栏 140

机器学习-白板推导系列(六)(1)-支持向量机SVM（Support Vector Machine）

6. 支持向量机SVM（Support Vector Machine） 6.1 引言简介 SVM是什么? 先来看看维基百科上对SVM的定义: 支持向量机（英语：support vector machine，常简称为SVM，又名支持向量网络）是在分类与回归分析中分析数据的监督式学习模型与相关的学习算法。给定一组训练实例，每个训练实例被标记为属于两个类别中的一个或另一个，SVM训练算法创建一个将新的实例分配给两个类别之一的模型，使其成为非概率二元线性分类器。SVM模型是将实例表示为空间中的点，这样映射就

Paul_Huang的专栏 575

老版QQ原生表情gif动态

这是老版的QQ表情，不过全是动态的的，Windows照片查看器是不会动的，可以右击用浏览器打开查看，再说一遍是老版的，只是分享给宁愿用老版也要动态的人。

汉书HE8，好用的汇编代码编写工具

汉书HE8，好用的汇编代码编写工具早期编写汇编代码所用功能强大

【白板推导系列笔记】支持向量机-硬间隔SVM-模型定义

假如数据是完全的线性可分的，那么学习到的模型可以称为硬间隔支持向量机。换个说法，硬间隔指的就是完全分类准确，不能存在分类错误的情况。在感知机算法中，如果两类线性可分，一般情况下，会存在无穷多条线。在SVM中，一个超平面，不仅能将数据正确分类，而且这个超平面到不同类之间距离最大。这里的margin是指数据集中离超平面最近的点到超平面的距离，因此，上式等价于。因此我们就可以在数据集线性可分的任何情况下，令。因此，最大化数据到超平面的间隔就可以被表达为。，因此最大化数据到超平面的间隔就可以被表达为。

liu20020918zz的博客 415

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

机器学习-白板推导学习笔记-6支持向量机SVM2

本篇文章是根据视频（link.）所作的学习笔记，旨在对机器学习的相关知识更好的理解和巩固。本人基础较弱，推导中看不懂的公式可能会细究，如果有理解不当之处也欢迎指出。软间隔SVM（soft-margin SVM）当数据的可分性不高或者数据中存在一些噪声时，硬间隔SVM很难工作，这时就需要软间隔SVM来进行分类，即允许分类时存在一点错误。这个容错范围肯定是希望尽可能的小，所以用损失函数来表达：关键在于这个损失函数如何定义？（1）用错分的数据个数作为loss，此时： lo.

gigglehuahua的博客 1157

efm32 入门.pdf

本PDF共计22页，介绍的是操作驱动API，下载与否自己斟酌。

白板推导SVM--个人手推笔记

jiayalu的博客 287

SVM支持向量机、BP神经网络

【【五分钟机器学习】向量支持机SVM——学霸中的战斗机-哔哩哔哩】【机器学习-白板推导系列(六)-支持向量机SVM（Support Vector Machine）-哔哩哔哩】【Python与人工智能-BP神经网络原理与实现-哔哩哔哩】

xbsigeibwkouvfcj的博客 183

【白板推导系列笔记】支持向量机-硬间隔SVM-模型求解-引出对偶问题&引出KKT条件

{min ω,b12ωTωs.t.yi(ωTxi+b)≥1⇔1−yi(ωTxi+b)≤0,i=1,2,⋯ ,N⏟N个约束 \left\{\begin{aligned}&\mathop{\text{min }}\limits_{\omega,b} \frac{1}{2}\omega^{T}\omega\\&s.t.y_{i}(\omega^{T}x_{i}+b)\geq 1\Leftrightarrow 1-y_{i}(\omega^{T}x_{i}+b)\leq 0,\underbrace{i=1,2,\c

liu20020918zz的博客 476

白板推导：SVM

支持向量机(SVM) svm有三宝：间隔，对偶，核技巧。 svm又分成：hard margin svm；soft margin svm；kernel svm 间隔 svm思想：最大间隔分类器, 几何间隔：（点到直线的距离）函数间隔：对于所有的x，满足最近的x与分类平面最远。即：maxmargin(w,b) 这是一个二次不等式凸优化。 hard mar...

choose_c的博客 429

【白板推导系列&西瓜书学习笔记】SVM

硬间隔SVM模型定义（最大间隔分类器） SVM有三宝：间隔、对偶、核技巧。其中核技巧/核函数是SVM之前就有的，可使SVM从普通特征空间映射到高维空间，实现一定的非线性分类。 SVM分类：hard-margin SVM、soft-margin SVM、kenel SVM 下面先介绍hard-margin SVM。 SVM最初用来进行二分类（+1、-1）：超平面：wTx+b=0w^{T}x + b = 0wTx+b=0 判别模型：f(w)=sign(wTx+b)f(w) = sign(w^{T}x +

羊肉蛋花汤的博客 686

机器学习-白板推导系列笔记（六）-SVM

此文章主要是结合哔站shuhuai008大佬的白板推导视频：支持向量机_178min 一、硬间隔SVM （一）模型定义假设有以下数据： {(xi,yi)}i=1N,xi∈Rp,yi∈{+1,−1}\left \{(x_{i},y_{i})\right \}_{i=1}^{N},x_{i}\in \mathbb{R}^{p},y_{i}\in \{+1,-1\}{(xi,yi)}i=1N,xi∈Rp,yi∈{+1,−1} SVM的主要思想是在特征空间中寻找一个最大间隔的超平面wTx+bw^{T

scu-liu的博客 1397

机器学习-白板推导 P6_1 (SVM)

机器学习-白板推导 P6_1SVM SVM SVMSVMSVM有三宝：间隔、对偶、核技巧 SVM={hard−margin  SVMsoft−margin  SVMkernel  SVM SVM= \begin{cas...