机器学习：用梯度下降法实现线性回归

之前在 机器学习算法数学基础之 —— 线性代数篇 中，总结过求解线性回归的两种方法：

1. 最小二乘法
2. 梯度下降法

这篇文章重点总结一下梯度下降法中的一些细节和需要注意的地方。

---

梯度下降法是什么

假设有一个估计函数：   ，
其代价函数（cost function）为： 

这个代价函数是 x(i) 的估计值与真实值 y(i) 的差的平方和，前面乘上 1/2，是因为在求导的时候，这个系数就不见了。

梯度下降法的流程：

1）首先对 θ 赋值，这个值可以是随机的，也可以让 θ 是