Andrew Ng机器学习笔记2——梯度下降法and最小二乘拟合

今天正式开始学习机器学习的算法，老师首先举了一个实例：已知某地区的房屋面积与价格的一个数据集，那么如何预测给定房屋面积的价格呢？我们大部分人可以想到的就是将画出房屋面积与价格的散点图，然后拟合出价格关于面积的曲线，那么对于一个已知的房屋面积，就可以在拟合的曲线上得到预测的价格。这个问题就是回归。

要想用数学方法解决这一问题，肯定得定义一堆符号来描述问题啦，下面是符号定义：

符号定义完了，来看看我们究竟需要解决什么问题：

先找到一个训练样本集合，提供给学习算法，算法之后会生成一个输出函数，我们用h（假设）表示这个函数，这个函数的任务就是：接受一个输入，并输出一个对真实值的估计（output estimates）,也就是