随机梯度下降法求解SVM（附matlab代码）

随机梯度下降法（Stochastic Gradient Descent）求解以下的线性SVM模型：

w的梯度为：

传统的梯度下降法需要把所有样本都带入计算，对于一个样本数为n的d维样本，每次迭代求一次梯度，计算复杂度为O(nd) ，当处理的数据量很大而且迭代次数比较多的时候，程序运行时间就会非常慢。

随机梯度下降法每次迭代不再是找到一个全局最优的下降方向，而是用梯度的无偏估计 来代替梯度。每次更新过程为：