【手写下降优化算法训练】梯度下降优化算法与模型训练

系列文章目录

一、监督学习（supervised learning）启蒙

监督学习（supervised learning）中常见的三个符号：

  m，描述训练样本的数量
  x，描述输入变量或特征
  y，描述输出变量或者叫目标值

训练集会包含很多的样本，我们用（x,y）表示其中第i个样本。x是数据样本的特征，y是其目标值。

例如，在预测房价的模型中，x是房子的各种信息，例如：面积，楼层，位置等等，y是房子的价格。在图像识别的任务中，x是图形的所有像素点数据，y是图像中包含的目标对象。

我们是希望寻找一个函数模型，将x映射到y，这个函数模型要足够的好，以至于h(x)能够预测对应的y。由于历史原因，这个函数叫做目标函数（hypothesis function）

监督学习（supervised learning）的过程
首先根据已有的数据（称之为训练集）训练我们的算法模型&#x