[证明]在二类线性分类中,权重向量w与决策平面正交。

最新推荐文章于 2024-01-07 02:07:57 发布

原创最新推荐文章于 2024-01-07 02:07:57 发布 · 2.9k 阅读

9 ·

CC 4.0 BY-SA版权

文章标签：

#机器学习

本文深入探讨了决策平面在二类线性分类中的关键作用，解析了决策边界的数学表达，及其如何将特征空间分割成两个类别对应的区域。通过判别函数f(x)=wT*x+w0的零点构成，阐明了权重向量与决策平面正交的几何意义。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

需要明白的概念

决策平面： 特征空间 $R^d$ 中所有满足 $f (x, w) = 0$ 的点组成一个分割超平面(hyperplane)，称为决策边界(decision boundary)或决策平面(decision surface)。

二类线性分类： 决策边界将特征空间一分为二，划分成两个区域，每个区域对应一个类别。

证明

由上面的定义可知，二类线性分类的判别函数可以表示为:
$f(x)=w^T*x+w_0$
因此决策平面为：
$f(x)=w^T*x+w_0=0$
对于决策平面上的任意线段，其起点 $x_1$ 和终点 $x_2$ 都在该超平面上，即满足
$w^T*x_1+w_0 = w^T*x_2+w_0 \\ 即w^T*(x_1-x_2) = 0$
因此权重向量 $w$ 与决策平面正交。