SVM（函数间隔，几何间隔......)

最新推荐文章于 2025-02-15 18:46:54 发布
最新推荐文章于 2025-02-15 18:46:54 发布
阅读量308 收藏
点赞数
CC 4.0 BY-SA版权
文章标签： python 数据结构与算法
原文链接：https://my.oschina.net/stone8oy/blog/285358
本文转自多个来源，主要介绍了2019年独角兽企业在招聘Python工程师时的标准与要求，对于想要从事这一领域的开发者来说是个很好的参考。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

George_Fal
关注
人工智能之数学基础:函数间隔和几何间隔
huanfeng_AI的博客
01-12 157
在机器学习领域，尤其是支持向量机（SVM）算法中，函数间隔（Functional Margin）和几何间隔（Geometric Margin）是两个至关重要的概念。它们不仅用于描述数据点到超平面的距离，还直接影响到分类器的性能与泛化能力。本文将详细介绍这两个概念，并探讨它们之间的区别与联系。
SVM系列第三讲--函数间隔和几何间隔
abcdefg90876的博客
07-19 148
上一节我们讲到，我们要像线性分类器一样找到一个超平面，不仅能够对数据点进行一个准确的分隔，同时我们希望所有的点尽量都能够远离我们的超平面，即所有点的f(x)值都是很大的正数或者是很小的负数。 但这里就会有一个疑问了，为什么f(x)值能够代表数据点远离超平面的程度呢？接下来，我们将讨论点到超平面的距离问题。 1、函数间隔 我们的函数间隔定义为： 函数间隔 可以看到，函数间隔其实就是类别标签乘...
SVM函数间隔和几何间隔
lvhuike的博客
12-30 1322
刚开始接触SVM，遇到函数间隔和几何间隔，对这2个概念有点混肴，查阅一些资料后有点明白了。 函数间隔： 并不是实际意义上的点到超平面的距离，只是表示点到超平面的远近。 比如平面方程1：3x1 + 6x2 - 12 = 0 和平面方程2：x1 + 2x2 - 4 = 0 都过点（4，0）和（2，0），虽然平面方程1的系数是平面方程2的3倍，但它们是同一条线同一个平面。函数间隔等于y（wx + ...
关于SVM中函数间隔与几何间隔问题总结（SVM系列）
happy_lizz的博客
04-12 1613
1.定义 1.1函数间隔： 1.2 几何间隔： 2.相同的超平面，会产生不同的函数间隔 在优化问题中，由于函数间隔会导致优化函数趋于无穷大，故我们需要找到一个与超平面一一对应的间隔表示方式，即几何间隔，其通过将超平面的法向量的模固定为1，从而使得一个超平面与一个点之间，只有唯一的间隔函数。 3.最优化问题 3.1 在SVM中，最优化问题可以表示为如上所示，记作 形式(a)。 通过带入函数间隔与几何间隔的关系式，可以得到如下形式，记作 形式(b)： 3.2 将函数间隔规定为1 可以
svm 中的几何间隔
piaomiaoju的专栏
09-28 2358
1.SVM在分类超平面中 求解 数据集最小几何间隔的最大值。 2. SVM中超平面系数缩放，不影响超平面的位置，系数缩放，也不影响几何间隔。 3. 定义>= 1,相当于几何间隔》1/||w||. 当然也可以定义成 >=k,因为这只会影响系数（w,b)缩放，同时需要修改几何间隔 》k/||w||.因此选择只不过是一种方便。 wTx+b
svm 函数间隔的几何认识
hello_zybwl的博客
03-18 324
在超平面w⋅x+b=0确定的情况下，|w⋅x+b|可以相对地表示点x距离超平面的距离？ 为什么这个能表示距离，只讨论这一个问题 下面是算法导论中对两个向量的叉积的定义！ 记住一个问题：叉积就是面积，面积除以底长就是高 可以用一些数据去验证下 ...
【机器学习】SVM中对函数间隔和几何间隔的理解
Elford的博客
11-23 2110
超平面表达式： 函数间隔 ： 对于在超平面上的点， wx+b=0wx+b=0wx+b=0 恒成立。而超平面之外的点，可以认为距离越远，wx+bwx+bwx+b 的绝对值越大，同时分类成功的概率也越高，表达式为： 几何间隔 ： 顾名思义，几何间隔就是两条平行线之间的距离，表达式为： 考虑SVM的目标，是要使所有样本点中几何间隔的最小值尽可能大： 即最优化问题为： 将约束条件的左右两边同时乘以 ∣∣w∣∣||w||∣∣w∣∣，可以得到表达式： yi(w⋅xi+b)≥γ⋅∣∣w∣∣y_i(w·x_i+b
SVM中函数间隔和几何间隔的区别
join_YY的博客
04-03 2532
1、用|w∗x+b|表示点x到超平面0的距离远近，(w∗x+b)∗y表示分类的正确性以及确信度。2、在二分类问题里，如果(w∗x+b)>0，则x的类别被判定为1；如果(w∗x+b)<0,x的类别判定为-1。所以如果要分类正确，就一定要有y(w∗x+b)>03、样本点（xi，yi）和超平面之间的函数间隔为： yi(w∗xi+b)要有更好的分类效果，就要让间隔最大。最简单的是通过让W...
SVM.zip_SVM特征提取
09-24
SVM的核心思想是最大化间隔（Margin），即找到能够最好地分离两类样本的决策边界，同时确保边界到最近样本（支持向量）的距离最大。SVM使用核函数技术将原始特征映射到高维空间，使得原本在低维空间难以线性分隔的...
机器学习系列(13)_SVM碎碎念part1：间隔
热门推荐
寒小阳
09-27 1万+
欠的总归是要还的，SVM这么神圣的算法是每个学习machine learning的同学可能会头痛却又不得不面对的，即使到现在为止博主这样的Math/CS渣都觉得一定没有领悟到SVM精髓，所以整理了一些边边角角的碎碎念，颤颤巍巍放到这个系列里，算是自己做个总结，也希望能对大家有一点点的帮助。这个SVM系列大部分内容来自Alexandre KOWALCZYK大神的[SVM Tutorial]
SVM中涉及的函数间隔问题
invention_Liu的博客
06-13 1272
函数间隔的取值对最优化的解无影响（线性可分情况下，硬间隔）：      假如函数间隔（γ表示）变为原来的k倍，由γ（i） = y（i）* ( w * x（i） + b )可知：相当于w,b也同时变为原来的k倍（k*γ = y * （k * w * x + k * b））。则对于约束条件：∑ （y（i）* ( w * x（i） + b ) ）>= γ 以及目标函数：γ / ||w|| 而言是没...
支持向量机（SVM）关键点攻略（最大间隔，对偶问题）
Hello Y2！
03-26 5025
用尽可能简单的思路，对SVM中的容易让人混淆的问题进行解释，并给出数学证明。
函数间隔和几何间隔
jxhaha的博客
01-09 1万+
在做分类时，通常希望用一条直线来将所有的样本分开，如图所示，这条直线就相当于一个超平面。   这条直线可以认为是一个超平面，其函数为，f(x)可以 取1 或者-1，用(w,b)表示，表示为b，表示为w。 定义函数间隔（用表示）为：                                                                                
SVM
六轱辘的专栏
04-28 1799
与感知机模型很相似的SVM的介绍！
机器学习SVM中关于函数间隔为什么可以设置为1
CSerwangjun的博客
05-02 2516
我是没看懂上图的解释的，然后上网查了一下大家的看法 首先我觉得关于那些说除 函数间隔 的不是那么科学 因为函数间隔是个变量又不是个常数，这是说除就除的嘛 首先明确一点，对于几何间隔都说，不管w和b变成几倍增加，几何间隔都不会变，这就会导致一个问题，满足图中式7.11和7.12的最优解有多个，是一个集合。因为如果w1,b1是一个最优解，那么kw1,kb1也是最优解 然而我们只需要一个就行...
matlab中svm两超平面之间的距离,SVM系列第三讲--函数间隔和几何间隔
weixin_36250220的博客
03-21 947
上一节我们讲到，我们要像线性分类器一样找到一个超平面，不仅能够对数据点进行一个准确的分隔，同时我们希望所有的点尽量都能够远离我们的超平面，即所有点的f(x)值都是很大的正数或者是很小的负数。但这里就会有一个疑问了，为什么f(x)值能够代表数据点远离超平面的程度呢？接下来，我们将讨论点到超平面的距离问题。1、函数间隔我们的函数间隔定义为：函数间隔可以看到，函数间隔其实就是类别标签乘上了f(x)的值，...
支持向量机（SVM）：从线性可分到核技巧——原理推导与实战解析
weixin_69882801的博客
02-15 724
SVM是一种基于结构风险最小化的监督学习算法，其核心是通过构建最大间隔超平面实现分类。与感知机不同，SVM不仅要求分类正确，还追求间隔最大化以提高泛化能力。
支持向量机（SVM）
gzgzgzgzdfg的博客
10-26 1233
SVM有三宝，间隔对偶核技巧
机器学习：深入解析SVM的核心概念【一、间隔与支持向量】
qq_22841387的博客
04-27 1616
在数学和物理中，一个平面或超平面的法向量是一个垂直于该平面的向量。在SVM的上下文中，超平面是决策边界，用来划分不同类别的数据点。SVM 的目标是构建一个具有最大间隔的决策边界，而间隔边界的设定≥1\geq +1≥1和≤−1\leq -1≤−1为了确保数学模型的一致性，并简化优化过程。这种方式定义的间隔是所有支持向量到超平面的最小距离，最大化这个距离帮助SVM提高分类器的泛化能力。
SVM几何间隔
最新发布
03-26
### 支持向量机中的几何间隔概念 在支持向量机（SVM）中，几何间隔是指某个样本点到分类超平面的实际距离。这一定义基于欧几里得空间的距离度量方式，并考虑了数据点的规范化表示。 对于给定的数据点 \( \mathbf{x}_i \)，其对应的类别标签为 \( y_i \in \{-1, +1\} \)，假设当前的超平面由参数 \( (\mathbf{w}, b) \) 表示，则该点到超平面的几何间隔可以写成如下形式： \[ d(\mathbf{x}_i) = \frac{|y_i (\mathbf{w}^\top \mathbf{x}_i + b)|}{||\mathbf{w}||}. \] 其中： - \( ||\mathbf{w}|| \) 是权重向量 \( \mathbf{w} \) 的 L2 范数； - \( \mathbf{w}^\top \mathbf{x}_i + b \) 是决策函数的部分表达式[^1]。 由于 SVM 中的目标是最优化分离效果，因此通常会引入 **最大间隔原则** 来寻找最优解。在此过程中，几何间隔被进一步标准化处理，使得目标变为最大化最小化后的间隔值。 #### 计算方法解释 为了便于理解如何计算几何间隔，在实际操作中有以下几个要点需要注意： 1. 对于任意一个训练样例而言，如果它正好位于边界上（即成为支持向量），那么它的几何间隔应满足特定条件——等于单位长度除以权值矢量模长的结果。 即当某一点恰好落在正负两类区域之间的中间位置时， \[ d_{support-vector} = \frac{1}{||\mathbf{w}||}. \] 2. 如果某些噪声或者错误标注的存在破坏了原本严格的线性可分性质，则可以通过引入松弛变量来调整模型设定从而允许一定程度上的误分类现象发生 [^2] 。此时所涉及的是所谓的“软间隔”。 通过上述分析可以看出，无论是硬间隔还是软间隔情况下的求解过程都离不开对几何间隔的理解及其相应公式的应用。 ```python import numpy as np def geometric_margin(w, b, X, y): """ Calculate the geometric margin of a set of points with respect to a hyperplane. Parameters: w (numpy array): Weight vector defining the orientation of the hyperplane. b (float): Bias term determining position along normal direction. X (numpy matrix): Data samples where each row represents one sample point. y (numpy array): Labels associated with data (+1 or -1). Returns: float: The minimal geometric margin across all provided points. """ margins = [] norm_w = np.linalg.norm(w) for i in range(len(X)): distance = abs(y[i]*(np.dot(w.T, X[i]) + b)) / norm_w margins.append(distance) return min(margins), max(margins) # Example usage if __name__ == "__main__": # Define parameters and dataset example W_example = np.array([3,-4]) B_example = 7 Points = np.array([[1,0], [-1,2]]) Y_labels = np.array([1, -1]) result_min, result_max = geometric_margin(W_example, B_example, Points, Y_labels) print(f"Minimal Geometric Margin is {result_min}") print(f"Maximal Geometric Margin is {result_max}") ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值