感知机-收敛性证明及代码实现

最新推荐文章于 2025-08-08 12:29:02 发布

原创

最新推荐文章于 2025-08-08 12:29:02 发布 · 4.1k 阅读

21 ·

CC 4.0 BY-SA版权

文章标签：

#机器学习 #感知器 #感知机收敛性

一、感知机原理

感知机是最简单的线性二分类模型，如果要处理的数据是线性可分的，则该模型能取得很好的效果，如果数据不是线性可分的，则该模型不能取得很好的效果。以二维平面为例，如果要分类的点，能被一条直线分开，直线的一侧是正类，直线的另一侧是负类，则说明数据是线性可分的。如果数据需要一个圆来分开则说明数据不是线性可分的，曾经感知机因为不能处理异或问题，而被人批判，导致神经网络的研究停滞了几十年。

1.1 感知机形式

感知机就是为了确定一条直线WX+b，让直线的一侧为正类，直线的另一侧是负类。当WX+b运算大于0时为+1，WX+b运算小于0时为-1，为此引入了sign函数。

$sign(x) =\left\{ \begin{matrix} +1 & x<=0 \\ -1 & x>0 \end{matrix}\right.$