梯度下降（Gradient descent）

1、线性回归

        线性回归假设特征和结果满足线性关系。其实线性关系的的表达能力还是比较强大的，每个特征对结果的影响强弱可以通过其权重体现，同时每个特征变量可以首先映射到一个函数，然后再参加线性计算。

      有以下的函数：

$\$$ <img src="http://chart.googleapis.com/chart?cht=tx&chl=h(x)%3D%5Csum_%7Bi%3D0%7D%5E%7Bn%7D%5CTheta%20_ix_i%3D%7B%5Ctheta%20%5E%7BT%20%7D%7Dx" style="border:none;" /> $\$$

函数中的xi表示的是特征里面的分量，表示的是映射x->y函数中的参数（权重）。