sklearn-线性回归、岭回归、逻辑回归、聚类

sklearn-线性回归、岭回归、逻辑回归、聚类

一.线性回归
1.概念
试图学得一个通过属性的线性组合来进行预测的函数：
f(x)=w_1x_1+w_2x_2+…+w_dx_d+b
w为权重，b称为偏置项，可以理解为：w_0×1
比如：
期末成绩：0.7×考试成绩+0.3×平时成绩
西瓜好坏：0.2×色泽+0.5×根蒂+0.3×敲声

注意：
预测结果与真实值是有一定的误差


2.损失函数

①最小二乘法之正规方程

②梯度下降

例子：

α为学习速率，需要手动指定，
表示方向。
理解：沿着这个函数下降的方向找，最后就能找到山谷的最低点，