使用随机梯度算法对线性模型进行最小二乘学习法的算法流程:
①. 给θ以适当的初值。
②. 随机选择一个训练样本(例如,选择顺序为 的训练样本( , ))。
③. 对于选定的训练样本,采用使其梯度下降的方式,对参数θ进行更新。
在这里, 是名为学习系数的无穷小正标量,表示梯度下降的步幅。 是顺序为 的训练样本相对应的训练平方误差的梯度,表示梯度下降的方向。
④.直接解 达到收敛精度为止,重复上述②、③步的计算。
使用随机梯度算法对线性模型进行最小二乘学习法的算法流程:
①. 给θ以适当的初值。
②. 随机选择一个训练样本(例如,选择顺序为 的训练样本( , ))。
③. 对于选定的训练样本,采用使其梯度下降的方式,对参数θ进行更新。
在这里, 是名为学习系数的无穷小正标量,表示梯度下降的步幅。 是顺序为 的训练样本相对应的训练平方误差的梯度,表示梯度下降的方向。
④.直接解 达到收敛精度为止,重复上述②、③步的计算。
转载于:https://my.oschina.net/magicalee/blog/1518232