机器学习6 函数间隔与几何间隔

最新推荐文章于 2024-04-27 17:45:54 发布

原创最新推荐文章于 2024-04-27 17:45:54 发布 · 485 阅读

0 ·

CC 4.0 BY-SA版权

machine_learning 专栏收录该内容

9 篇文章

订阅专栏

本文详细介绍了支持向量机中两种边界的概念及其数学表达形式：功能边界和几何边界。通过公式推导展示了如何计算单个训练样本到决策边界的距离，并确保了该距离的非负性。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

f u n c t i o n a l m arg i n

$functional{\kern 1pt} {\kern 1pt} m\arg in$

γ (i) = y (i) (w T x (i) + b)

${\gamma ^{\left( i \right)}} = {y^{\left( i \right)}}\left( {{w^T}{x^{\left( i \right)}} + b} \right)$

g e o m e t r i c m arg i n

$geometric{\kern 1pt} {\kern 1pt} {\kern 1pt} m\arg in$

w T (x (i) - γ (i) w ∥ w ∥) + b = 0

${w^T}\left( {{x^{\left( i \right)}} - {\gamma ^{\left( i \right)}}{w \over {\left\| w \right\|}}} \right) + b = 0$

w T x (i) - γ (i) w T w ∥ w ∥ + b = 0

${w^T}{x^{\left( i \right)}} - {\gamma ^{\left( i \right)}}{w^T}{w \over {\left\| w \right\|}} + b = 0$

\Rightarrow

$\Rightarrow$

γ (i) = w T x ( i ) + b ∥ w ∥

${\gamma ^{\left( i \right)}} = {{{w^T}{x^{\left( i \right)}} + b} \over {\left\| w \right\|}}$
为了保证非负性，令

γ (i) = y (i) ⎛ ⎝ (w ∥ w ∥) T x (i) + b ∥ w ∥ ⎞ ⎠

${\gamma ^{\left( i \right)}} = {y^{\left( i \right)}}\left( {{{\left( {{w \over {\left\| w \right\|}}} \right)}^T}{x^{\left( i \right)}} + {b \over {\left\| w \right\|}}} \right)$

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

skmygdrs

关注关注

2
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

每天五分钟机器学习：函数间隔和几何间隔

huanfeng_AI的博客

12-07

253

几何间隔是数据点到超平面的最小距离，即垂直于超平面的最短距离。它体现了数据点到超平面的确切距离，是一个固定的值，不会随着超平面方程参数的等比例缩放而改变。几何间隔的计算公式为：其中，∥w∥ 是超平面法向量 w 的模长（即二范数）。这个公式实际上是将函数间隔归一化的结果，使得几何间隔成为一个固定的值。几何间隔的几何意义：几何间隔可以理解为数据点到超平面的垂直距离。它是通过数据点与超平面上任意一点连线，并与超平面的法向量做点积后，除以法向量的模长来计算得到的。

人工智能之数学基础:函数间隔和几何间隔

最新发布

huanfeng_AI的博客

01-12

157

在机器学习领域，尤其是支持向量机（SVM）算法中，函数间隔（Functional Margin）和几何间隔（Geometric Margin）是两个至关重要的概念。它们不仅用于描述数据点到超平面的距离，还直接影响到分类器的性能与泛化能力。本文将详细介绍这两个概念，并探讨它们之间的区别与联系。

参与评论您还未登录，请先登录后发表或查看评论

机器学习中的函数间隔和几何间隔

二胖_pro

05-05

2682

目录一、函数间隔二、几何间隔三、函数间隔和几何间隔的关系一、函数间隔函数间隔一般来说，一个点距离分离超平面的远近可以表示分类预测的确信程度。在超平面w⋅x+b=0w\cdot x+b=0w⋅x+b=0 确定的情况下，∣w⋅x+b∣|w\cdot x+b|∣w⋅x+b∣能够相对地表示点距离超平面的远近。w⋅x+bw\cdot x+bw⋅x+b 的符号与类标记 yyy 的符号是否一致能够表示...

函数间隔（functional margin）和几何间隔（geometric margin）

chqb89的专栏

04-28

8766

对于给定的训练数据集T和超平面(w,b)，定义超平面关于样本点(x_i,y_i)的函数间隔为定义超平面(w,b)关于训练数据集T的函数间隔为超平面关于T中所有样本点的函数间隔之最小值，即函数间隔可以表示分类预测的正确性及确信度，但选择分离超平面时，只有函数间隔还不够，因为只要成比例改变w和b，超平面并没有改变，但函数间隔却变了，因此需要对分离超平面的法

函数间隔和几何间隔

顺其自然~专栏

01-03

828

上一节我们讲到，我们要像线性分类器一样找到一个超平面，不仅能够对数据点进行一个准确的分隔，同时我们希望所有的点尽量都能够远离我们的超平面，即所有点的f(x)值都是很大的正数或者是很小的负数。但这里就会有一个疑问了，为什么f(x)值能够代表数据点远离超平面的程度呢？接下来，我们将讨论点到超平面的距离问题。

【机器学习】SVM中对函数间隔和几何间隔的理解

Elford的博客

11-23

2110

超平面表达式：函数间隔：对于在超平面上的点， wx+b=0wx+b=0wx+b=0 恒成立。而超平面之外的点，可以认为距离越远，wx+bwx+bwx+b 的绝对值越大，同时分类成功的概率也越高，表达式为：几何间隔：顾名思义，几何间隔就是两条平行线之间的距离，表达式为：考虑SVM的目标，是要使所有样本点中几何间隔的最小值尽可能大：即最优化问题为：将约束条件的左右两边同时乘以 ∣∣w∣∣||w||∣∣w∣∣，可以得到表达式： yi(w⋅xi+b)≥γ⋅∣∣w∣∣y_i(w·x_i+b

《机器学习中的数学》—— 函数间隔与几何间隔

Lin's Blog

05-13

1168

目录1.函数间隔2.几何间隔3.两者的关系 1.函数间隔在超平面w∗x+b=0w^*x+b=0w∗x+b=0确定的情况下，∣w∗x+b=0∣|w^*x+b=0|∣w∗x+b=0∣能够表示点x到距离超平面的远近，而通过观察w∗x+b=0w^*x+b=0w∗x+b=0的符号与类标记yyy的符号是否一致可判断分类是否正确，所以，可以用w∗x+b=0w^*x+b=0w∗x+b=0)的正负性来判定或表示分类的正确性。于此，我们便引出了函数间隔（functional margin）的概念。定义函数间隔（用γ^\wi

机器学习强基计划3-1：图文详解超平面、函数间隔、几何间隔

FRIGIDWINTER的博客

08-26

6772

在线性判别分析、支持向量机、主成分分析等模型中都接触到超平面的概念，本文图解机器学习中的超平面，以及由其引申出的投影、几何间隔、函数间隔等概念，为后续的模型学习打下基础

机器学习：深入解析SVM的核心概念【一、间隔与支持向量】

qq_22841387的博客

04-27

1616

在数学和物理中，一个平面或超平面的法向量是一个垂直于该平面的向量。在SVM的上下文中，超平面是决策边界，用来划分不同类别的数据点。SVM 的目标是构建一个具有最大间隔的决策边界，而间隔边界的设定≥1\geq +1≥1和≤−1\leq -1≤−1为了确保数学模型的一致性，并简化优化过程。这种方式定义的间隔是所有支持向量到超平面的最小距离，最大化这个距离帮助SVM提高分类器的泛化能力。

理解函数间隔与几何间隔

lecturekeke的专栏

01-28

476

如上图所示，输入$x$为$x^{(1)}$和$x^{(2)}$二维空间上的点。输入与输出共同构成三维空间的函数的曲面（在这里为一个与y轴相交于b点的倾斜平面），例如$x_2$在这个平面上对应的点可记作$x{_2}$'($x{^{(1)}_2},x{^{(2)}_2},y_2$)。以$x_2$为例，$\hat{\gamma}_2$为函数间隔，$\gamma_2$为几何间隔。$\gamma_2$不变，$\hat{\gamma}_2$则会随$\omega$的

支持向量机中的函数距离和几何距离

aoc68397的博客

09-24

909

作者：Jason Gu链接：https://www.zhihu.com/question/20466147/answer/28469993来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。 SVM是通过超平面将样本分为两类。在超平面确定的情况下，可以相对地表示点距离超平面的远近。对于两类分类问题，如果，则的类别被判定为1；否则判定为-1。所以如果，则...

函数间隔几何间隔

guihaitianyan的博客

03-27

884

函数间隔几何间隔 1.支持向量机和logistic函数的有什么区别实践发现，在所给的例子中，两种方法线性划分两类事物时得到的线性分类器的效果差不多。那具体的差别在哪呢？ SVM更关心的是靠近中间分割线的点，让他们尽可能地远离中间线，而不是在所有点上达到最优，因为那样的话，要使得一部分点靠近中间线来换取另外一部分点更加远离中间线。因此支持向量机和和逻辑斯蒂回归的不同点，一个是考虑局部（不关心已经确定远离的点，更考虑靠近中间分割线的点），一个是考虑全局（已经远离的点可能通过调整中间线使其能够更加远离） 2.

svm 函数间隔与几何间隔的认识