chipanzeon的博客

线性回归 的理念就是通过找到一个方程 y = ∑ an*Gn(x) + b 去拟合我们的训练集。对于每一个样本点xi， 我们都希望预测值 yi‘ = ∑ an*Gn(xi) + b 与样本的真值 yi 的差距尽量小通常我们用 yi‘ 和 yi 之间差的平方作为损失函数(Loss function)， 其中 Gn(xi) 是基函数（Basis function）当我们优化出最小的Lo

KNN - K nearest neighbor 算法利用的数学思想极少思想：对于一个新来的点，根据判断k个最近的点，来判断新来的点的类别。过程：1）先计算新来的点与样本中每一个点的距离(欧拉距离)2）找到最近的k个点 （可以用np.argsort）3）找到k个点中类别最多的点的类所以k邻近算法可以说是没有模型的算法，也可以说训练集数据就是模型