机器学习--多变量线性回归

还有几天就国庆了，趁着国庆好好调整一下，昨天被一些THU的大佬们的报告给深深打击了，我感jio我就好像没学过计算机一样(笑哭)。。。
读博的欲望更加强烈了，希望有一天能变得像他们一样强(想想而已，啊哈哈哈)，OK,开始标题的内容了。。。

1.多维特征
先举个例子，还是上次那个房价模型的例子，现在我们对房价模型增加更多的特征，例如房间数楼层等，构成一个含有多个变量的模型，模型中的特征为（x 1 ,x 2 ,…,x n ）。

增添更多特征后，我们引入一系列新的注释：
n 代表特征的数量，x (i) 代表第 i 个训练实例，是特征矩阵中的第 i 行，是一个向量（vector）。之前的m是行数，即训练样本数。是一个四维的向量。

如图一的x3(2)=2,
X(i)j代表第i个训练样本中第j个特征量的值。

支持多变量的假设 h 表示为：

这个公式中有 n+1 个参数和 n 个变量，为了使得公式能够简化一些，引入 x 0 =1，则公式转化为：

此时模型中的参数是一个 n+1 维的向量，任何一个训练实例也都是 n+1 维的向量，特征矩阵 X 的维度是 m*n+1。 因此公式可以简化为：

其中上标 T 代表矩阵转置。

2.多变量梯度下降

与单变量线性回归类似，在多变量线性回归中，我们也构建一个代价函数，则这个代价函数是所有建模误差的平方和，即：

其中：

我们的目标和单变量线性回归问题中一样，是要找出使得代价函数最小的一系列参数。多变量线性回归的批量梯度下降算法为：

即：