回归算法-线性回归分析

回归算法-线性回归分析

线性关系模型----一个通过属性的线性组合来进行预测的函数：

线性回归：

通过一个或者多个自变量与因变量之间进行建模的回归分析。

其中特点为一个或多个回归系数的模型参数的线性组合

一元线性回归：涉及到的变量只有一个

多元线性回归：涉及到的变量两个或两个以上

损失函数(误差大小)

注：损失函数，用来度量预测值和实际值之间的差异，它是一个非负实值函数，从而作为模型性能参考依据。

损失值越小，说明预测输出和实际结果之间的差值就越小，也就说明构建的模型越好，反之说明模型越差。

如何去求模型当中的W，使得损失（误差）最小？

1）最小二乘法之正规方程（只适用于简单的线性回归）