机器学习—有监督学习—多变量线性回归(推导及代码实现)

一、多变量线性回归简述

1、多维特征

多变量线性回归模型是单变量线性回归的基础上增加了更多的特征，我们生活中需要解决的问题往往都是受多种因素所影响，而引入这些特征后得出的模型适用性更高，以房价预测模型为例。引入房屋尺寸、卧室数量、楼层等多个特征对我们数据集的影响：

2、代价函数

与单变量线性回归一样，在多变量线性回归中，我们也构建一个代价函数，则这个代价
函数是所有建模误差的平方和。而我们的目的，和单变量线性回归一样，找到代价函数最小时的参数θ

3、梯度下降

运用梯度下降算法，经过不断迭代，来找到代价函数无限接近于0时，最优的参数θ。对所有的θ求偏导，如图：

矩阵表达如下，其中e为误差，代表h-y。