线性回归家族-多元线性回归LinearRegression

多元线性回归的基本原理

线性回归是机器学习中最简单的回归算法，多元线性回归指的就是一个样本有多个特征的线性回归问题，所以多元其实指的是多个特征。对于一个有个特征的样本而言，它的回归结果可以写作一个几乎人人熟知的方程：
${\hat{y}}_i={\omega }_0+{\omega }_1{x}_{i1}+{\omega }_2{x}_{i2}+...+{\omega }_n{x}_{in}$
$\omega$被统称为模型的参数，其中${\omega }_0$被称为截距(intercept)，${\omega }_1$~${\omega }_n$ 被称为回归系数(regression coefficient)，有时也是使用$\theta$或者$\beta$来表示。
这个表达式，其实就和我们小学时就无比熟悉的y=ax+b是同样的性质。其中${\hat{y}}_i$是我们的目标变量，也就是标签。x_i1 ~ x_in 是样本i上的不同特征。
如果有m个样本，则回归结果可以被写作：
$\hat{\mathbf{y}}={\omega }_0+{\omega }_1{\mathbf{x}}_1+{\omega }_2{\mathbf{x}}_2+...+{\omega }_n$