感知机
1. 感知机模型
定义:假设输入空间(特征空间)是χ⊆Rn\chi\subseteq R^nχ⊆Rn,输出空间是Y={
+1,−1}Y=\{+1,-1\}Y={
+1,−1}。输入x∈χx\in \chix∈χ表示实例的特征向量,对应于输入空间的点;输出y∈Yy\in Yy∈Y表示实例的类别。由输入空间到输出空间的如下函数
f(x)=sign(w⋅x+b)f(x)=sign(w\cdot x+b)f(x)=sign(w⋅x+b)
称为感知机。其中,www和bbb为感知机模型参数,w∈Rnw\in R^nw∈Rn叫做权值,b∈Rb\in Rb∈R叫做偏置,w⋅xw\cdot xw⋅x表示www和xxx的内积。signsignsign为符号函数。
2. 感知机学习策略
2.1数据集的线性可分性定义:
给定一个数据集
T={
(x1,y1),(x2,y2),⋯ ,(xn,yn)},T = \{(x_1,y_1),(x_2,y_2),\cdots,(x_n,y_n)\},T={
(x1,y1),(x2,y2),⋯,(xn,yn)},
其中,xi∈χ=Rn,yi∈Y={
+1,−1},i=1,2,⋯ ,N,x_i\in\chi=R^n,y_i\in Y=\{+1,-1\},i=1,2,\cdots,N,xi∈χ=Rn,yi∈Y={
+1,−1},i=1,2,