问题
在优化问题中,有一种常见的问题:已知样本集合,求拟合直线。拟合直线的一个选取原则是使样本点到拟合直线的距离最短。这里就是研究在nnn维样本点[x1,x2,...,xn][x_1,x_2,...,x_n][x1,x2,...,xn]到nnn维直线的距离。我采用向量研究这个问题,向量在多维情形下易于理解。
解答
二维向量
先考虑二维向量的情形,即二维平面的的点A(x0,y0)A(x_0,y_0)A(x0,y0)到直线l:0=w1x+w2y+bl:0=w_1x+w_2y+bl:0=w1x+w2y+b的距离.原点O(0,0)O(0,0)O(0,0),所以向量OA=(x0,y0)OA=(x_0,y_0)OA=(x0,y0