MNIST 代码解析---feedforward

最新推荐文章于 2024-04-08 00:15:00 发布

原创

最新推荐文章于 2024-04-08 00:15:00 发布 · 1.1k 阅读

2 ·

CC 4.0 BY-SA版权

本文解析了MNIST数据集的前向传播流程，通过两幅图解展示了从输入到输出的过程以及梯度计算，同时提供了相关源代码。

1.这张图是整个程序的feedforward的流程
这里写图片描述
2. 这张图是求梯度

这里写图片描述
3. 下面是源代码copy别人的，地址

# python3

import numpy as np
import random
import os, struct
from array import array as pyarray
from numpy import append, array, int8, uint8, zeros

class NeuralNet(object):

    # 初始化神经网络，sizes是神经网络的层数和每层神经元个数
    def __init__(self, sizes):
        self.sizes_ = sizes
        self.num_layers_ = len(sizes)  # 层数
        self.w_ = [np.random.randn(y, x) for x, y in zip(sizes[:-1], sizes[1:])]  # w_、b_初始化为正态分布随机数
        self.b_ = [np.random.randn(y, 1) for y in sizes[1:]]

    # Sigmoid函数，S型曲线，
    def sigmoid(self, z):
        return 1.0/(1.0+np.exp(-z))
    # Sigmoid函数的导函数
    def sigmoid_prime(self, z):
        return self.sigmoid(z)*(1-self.sigmoid(z))