一、间隔与支持向量
能将训练样本分开的划分超平面有很多,应该找到位于两类训练样本“正中间”的划分超平面,使得划分超平面离两个类别样本的间隔达到最大
样本空间中的划分超平面可以用 w T x + b = 0 w^Tx+b=0 wTx+b=0这个线性方程来描述, w = ( 1 1 ; w 2 ; . . . ; w d ) w=(1_1;w_2;...;w_d) w=(11;w2;...;wd)是法向量,决定了超平面的方向, b b b为位移项,决定了超平面与原点之间的距离。划分超平面被法向量 w w w和位移 b b b确定。样本空间中任意点 x x x到超平面 ( w , b ) (w,b) (w,b)的距离可写为 r = ∣ w T x + b ∣ ∣ ∣ w ∣ ∣ r=\frac{|w^Tx+b|}{||w||} r=