使用随机梯度算法对高斯核模型进行最小二乘学习法

使用随机梯度算法对线性模型进行最小二乘学习法的算法流程：

①. 给θ以适当的初值。

②. 随机选择一个训练样本（例如，选择顺序为 的训练样本（ ， ））。

③. 对于选定的训练样本，采用使其梯度下降的方式，对参数θ进行更新。

在这里， 是名为学习系数的无穷小正标量，表示梯度下降的步幅。 是顺序为 的训练样本相对应的训练平方误差的梯度，表示梯度下降的方向。

④．直接解 达到收敛精度为止，重复上述②、③步的计算。

转载于:https://my.oschina.net/magicalee/blog/1518232