【西瓜书阅读笔记】06支持向量机

最新推荐文章于 2025-12-14 19:54:39 发布
原创 最新推荐文章于 2025-12-14 19:54:39 发布 · 358 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#支持向量机 #算法 #机器学习

本文介绍了最大边界分类器（Maximal Margin Classifier）和支持向量机（Support Vector Machine, SVM）的概念。重点讲解了如何通过升维找到最大化分类边界的阈值，以及如何利用线性方程描述超平面。同时，阐述了超平面距离的计算方法，以及最大化边界问题转化为最小化法向量的过程。内容还包括了支持向量在SVM中的关键作用，以及约束条件确保样本正确分类的原理。

零、Maximal margin classifier and Support Vector classifier

 https://www.youtube.com/watch?v=efR1C6CvhmEicon-default.png?t=L9C2https://www.youtube.com/watch?v=efR1C6CvhmE

 

 一、间隔与支持向量：

 1、通过升维寻找使margin最大的threshold

 注意：该图表示三维空间，+对应y=1，-对应y=-1。

2、 用线性方程描述超平面：法向量w和位移b决定了该平面

 

3、任意一点到超平面的距离为r，根据超平面的方程得到margin

4、由最大化margin问题转换为最小化法向量：

 subject to:   y*f(x)>=1。由下图可知，y和f(x)方向必然相同。

 

周志华机器学习西瓜书 第六章 支持向量机-学习笔记(超详细！)
Sodas的博客
02-18 1557
支持向量机
机器学习西瓜书笔记：支持向量机SVM（support vector machines）
make a wish
04-08 2160
机器学习西瓜书笔记：支持向量机SVM。把模型思想，数学理念解释了一遍
西瓜书 学习笔记06 支持向量机
qq_23120021的博客
12-01 347
间隔与支持向量对偶问题求解方法-SMO核函数。
西瓜书笔记6:支持向量机
越开源越幸运
06-23 1034
6.1 间隔与支持向量 6.2 对偶问题 求解w 求解b 6.3 核函数 非线性映射 核函数 6.4 软间隔与正则化 软间隔 参数求解 正则化 6.5 支持向量回归 6.6 核方法
西瓜书读书笔记之支持向量机
wxl1999的博客
02-20 259
这次做思维导图省去了不少细节，感觉比神经网络那张要清爽不少，显得简明扼要。 核线性判别分析这里不是特别明白，需要回头看。  
Datawhale西瓜书学习笔记TASK7——支持向量机
C2587593227的博客
12-01 1129
机器学习，周志华，支持向量机
【机器学习西瓜书学习笔记——支持向量机】
m0_51148715的博客
08-02 970
将原始空间中的向量作为输入向量，并返回特征空间（转换后的数据空间,可能是高维）中向量的点积的函数称为核函数。
【西瓜书】第六章 支持向量机
weixin_44867290的博客
07-07 1012
原始样本空间可能并不存在能划分两类样本的超平面，需要把样本从原始空间映射到一个更高维的特征空间，使得样本在这个特征空间内线性可分。距离超平面最近的几个训练样本点使得上式成立，被成为“支持向量”(support vector)，两个异类支持向量到超平面的距离之和为。能将训练样本分开的划分超平面有很多，应该找到位于两类训练样本“正中间”的划分超平面，使得划分超平面离两个类别样本的间隔达到最大。“核函数的选择”成为支持向量机的最大变数，如果核函数选择的不合适，意味着将样本映射到了一个不合适的特征空间。
支持向量机,西瓜书第六章笔记
weixin_70251770的博客
07-25 704
至于偏移项b,则通过支持向量的判定式求解,因为对于任意支持向量(xi,yi),都有f(xi)×yi=1,然后得到b的平均值作为最终解。=1(令支持向量离超平面的函数间隔=1,可以简化目标函数),其实是一种规范化的做法,其他样本点到超平面的距离便可由此确定。解左式意味着要计算两者乘积,由于映射后的特征空间的维数未知,可能非常高,因此计算这两个矩阵相乘会很困难,所以引入核函数。此时引入核函数,其价值在于虽然它也是将特征进行从低维到高维的转换,但它事先在低维上进行计算,而将实质上的。
机器学习（西瓜书）第六章 支持向量机（SVM）
在猴站学算法
09-14 1103
本文介绍了支持向量机(SVM)的核心概念和应用。首先阐述了二分类问题中寻找最优划分超平面的原理，通过最大化间隔来提高模型的鲁棒性。其次解释了使用拉格朗日乘子法将原始问题转化为对偶问题的过程，并指出最终模型仅与支持向量有关。针对非线性可分问题，引入了核函数方法将样本映射到高维特征空间。接着讨论了软间隔概念和正则化技术，以处理存在噪声或异常点的现实数据。最后简要介绍了支持向量回归(SVR)和核方法的应用。全文系统地呈现了SVM的数学原理和实际应用策略，包括间隔最大化、核技巧、软间隔和正则化等关键技术。
西瓜书笔记之支持向量机
weixin_41551445的博客
08-04 249
这章节的内容对于小白来说属实有点难，把我难到无法用自己的语言去做笔记。 好在互联网上的大神随处可见，寻到一篇“码农场”的一篇文章，虽然他整理的不是西瓜书，而是《统计学方法》的第七章，支持向量机。但是我觉得要比西瓜书更加容易理解。反复多嚼几遍，总会有意想不到的收获！ 下面奉上链接，大家一起学习ba！ 支持向量机--码农场 ...
西瓜书学习笔记——第六章：支持向量机
Andrewings
05-30 4507
西瓜书学习笔记——第六章：支持向量机6. 本章简介6.1 间隔与支持向量6.2 对偶问题6.3 核函数6.4 软间隔与正则化6.5 支持向量回归6.6 核方法 6. 本章简介 支持向量机（Support Vector Machine），简称SVM，是一种经典的二分类模型，属于监督学习算法。 6.1节：介绍了支持向量机的目标是确定一个对样本的分类结果最鲁棒的线性分类器，即找到一个具有最大间隔的划分...
《统计学习方法》第7章——支持向量机SVM（下）【学习笔记】
最新发布
玦尘的博客
12-14 648
这些笔记主要是我个人的学习记录，如果恰好对你也有帮助，那就更好了。希望通过这个过程，能让自己对机器学习的理论基础有更扎实的理解。
《统计学习方法》第7章——支持向量机SVM（上）【学习笔记】
玦尘的博客
12-11 946
这些笔记主要是我个人的学习记录，如果恰好对你也有帮助，那就更好了。希望通过这个过程，能让自己对机器学习的理论基础有更扎实的理解。
基于BP神经网络和支持向量机实现风机故障诊断
fie8889的博客
12-11 201
基于BP神经网络和支持向量机（SVM）用于风机故障诊断的MATLAB实现，结合了数据预处理、模型训练和测试
基于MATLAB的支持向量机在故障诊断中的应用例程
fengfuyao985的博客
12-12 209
基于MATLAB的支持向量机在故障诊断中的应用例程
SPSS——聚类分析-二阶聚类分析
weixin_41301530的博客
12-13 308
中可以看到，聚类1汽车的频率61，卡车的频率是1；如果勾选“创建聚类成员变量”，可以得到聚类的最终结果。汽车生产厂商需要有效的方法评价当前市场情况，了解市场需要，找到受市场欢迎的，有市场竞争力的车型配置。将采用种类、价格、引擎型号、马力、轴距、宽度、长度、限重、储油量、燃料效率。在自动聚类表中，有BIC值，BIC变化量，BIC变化比率，距离测量比率。，同一个树节点内的记录相似度高，相似度差的记录则会生成新的节点。进行聚类，可以自动确定最终的分类个数，可以处理大型数据集。作为聚类变量相似度的测量形式；
MATLAB实现HOG特征提取与SVM行人检测
hoiii187的博客
12-11 196
MATLAB实现HOG特征提取与SVM行人检测
【模型与算法】Isolation Forest、Local Outlier Factor、One-Class SVM 三者系统对比与实战指南
feizuiku0116的博客
12-09 737
摘要： Isolation Forest、Local Outlier Factor（LOF）和One-Class SVM是异常检测领域的三大基础模型，分别适用于不同场景。Isolation Forest通过随机切割快速识别异常，适合大规模数据；LOF基于局部密度检测异常，对低维数据敏感；One-Class SVM利用高维核函数划定边界，适合小规模高维数据。本文通过代码示例对比三者的性能，指出常见调参陷阱（如OCSVM的nu参数和LOF的n_neighbors设置），并给出实际应用建议：生产环境优先选择Iso
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值