本文介绍了感知机算法，它是一种简单的线性分类模型。首先，定义了感知机的数学形式，强调其作为输入空间中超平面的角色。接着，文章讨论了感知机的损失函数，该函数基于误分类点到超平面的总距离。随后，提供了原始形式的感知机算法的实现，并解释了算法如何通过迭代更新权重和截距。最后，提到了对偶形式的感知机，这种形式通过实例点的线性组合来表示权重和截距，突显了误分类点对学习过程的影响。
感知机算法
定义1：假设输入空间是 χ ⊆ R n \chi \subseteq R^{n} χ⊆Rn,输出空间为 γ \gamma γ={+1,-1}.输入x ∈ χ \in \chi ∈χ表示实例的特征向量，对应于输入空间的点；输出 y ∈ γ y\in \gamma y∈γ表示实例的类别。由输入空间到输出空间的如下函数 f ( x ) = s i g n ( w x + b ) f(x)=sign(\mathbf{w} \mathbf{x}+b) f(x)=sign(wx+b)称为感知机。其中 w x \mathbf{w} \mathbf{x} wx是向量乘积形式。我们只需要求得两个参数 w \mathbf{w} w和b,就可以获得感知机模型。
感知机有如下几何解释:线性方程 w x + b = 0 \mathbf{w} \mathbf{x}+b=0 wx+b=0对应于特征空间的一个超平面S，其中 w \mathbf{w} w是超平面的法向量，b是超平面的截距。位于两部分的点分别被分为正负两类，因此，超平面S称为分离超平面。
根据经验，需要定义损失函数并令损失函数最小化。对于感知机模型，损失函数选择误分类点到超平面的总距离。假设 x i x_{i} x
最低0.47元/天 解锁文章
扫一扫
290
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
