神经网络：SGD与Batch比较（python实现）

最新推荐文章于 2025-03-31 23:13:54 发布

萧瑟1

最新推荐文章于 2025-03-31 23:13:54 发布

阅读量1.1k

点赞数 1

分类专栏：机器学习文章标签：机器学习

本文链接：https://blog.youkuaiyun.com/qq_41410799/article/details/93388203

版权

前一篇博客讲述了SGD和Batch方法的代码实现，本篇博客主要是比较SGD和Batch方法的学习速度，通过平均误差来进行比较，为了确保公平，两种方法的权重用相同的值初始化。

在这里附上代码：

#!/usr/bin/env python


import math
import random
import BatchDelta
import SGDdelta
import matplotlib.pyplot as plt

if __name__ == '__main__':
    #绘制曲线图
    fig = plt.figure()
    ax = fig.add_subplot(1,1,1)
    #设置横纵坐标
    ansy = []; ansy1 =[]
    ansx = []; ansx1 =[]
    # Wij表示输入节点j到输出节点i之间的权值
    WS = []
    WB = []
    # 标准输入
    data = [[0, 0, 1], [0, 1, 1], [1, 0, 1], [1, 1, 1]]
    # 标准输出
    D = [0, 0, 1, 1]
    # 初始化权值
    for i in range(0, 3):
        WS.append(2 * random.random() - 1);
        WB.append(WS[i]);
        #print("WS:"+WS[i].__str__()+"WB:"+WB[i].__str__());
    for i in range(0,1000):
        es_sum=eb_sum=0;
        WS = SGDdelta.DeltaSGD(WS,data,D);
        WB = BatchDelta.Batch(WB,data,D);