nosprings的博客

1、RNN单向循环神经网络实现2、隐藏层激活使用的是tanh、输出层使用的激活函数是softmax3、代码纯手写import numpy as npfrom activator.softmax import SoftMaxfrom activator.tanh import Tanh''' @author: liuhaibing'''# 手写循环神经网络# 全连接层只用三层input-hidden-outputclass RNN(): def __in.

1.算法原理就是FP和BP算法，采用的梯度下降更新梯度。2.算法的loss函数还是交叉熵函数，也是常用的分类loss函数。3.训练数据集是使用的mnist数据集，但是是处理好的，用csv文件保存的结构。4.目前没有写算法说明，回头再更吧，算法有详细的注释。import numpy as np# 基于交叉熵的loss函数计算和梯度class CrossEntropy(): # 正向计算 def forward(self, input, y): '''