本文介绍了随机梯度下降算法的基本原理及其应用场景。该算法通过每次迭代仅关注一个样本的方式进行参数调整，有效降低了计算复杂度。此外，还对比了随机梯度下降、批量梯度下降及小批量梯度下降三种方法的优缺点。
目录
处理大数据集：
随机的梯度下降
2）MapReduce和并行算法
错题
http://blog.youkuaiyun.com/mupengfei6688/article/details/53151740
http://blog.youkuaiyun.com/nobmr/article/details/52145787
处理大数据集：
随机的梯度下降
映射化简
1 随机的梯度下降
- 随机梯度下降算法
对于每一次迭代，只需要对一个样本拟合好就可以了。
它只需要一次关注一个样本一点点进行参数调整，这样不需要每一次都等到对所有数据进行扫描，从而降低复杂度
- 效果图：
（实际上随机梯度下降会在最靠近全局最小值的区域内徘徊）
小批量梯度下降
三种梯度下降的比较：
2 先进的主题：
1）在线学习2）MapReduce和并行算法
错题
http://blog.youkuaiyun.com/mupengfei6688/article/details/53151740
http://blog.youkuaiyun.com/nobmr/article/details/52145787
扫一扫
2967
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
