参考文献:http://www.cnblogs.com/biaoyu/p/4591304.html
上图为本文所考虑的简单的 单层多输入单输出BP神经网络。
输入变量个数:n
隐含层神经元个数:k
输出变量个数:1
输入变量:x
输出变量:y
期望输出:t
样本数量:m
隐含层-输入层连接权值: ωjp
隐含层神经元偏置值: bj
输出层-隐含层连接权值: ωoj
输出层神经元偏置值: bo
隐含层 激励函数采用sigmod函数:
f(x)=11+e−x,f′(x)=f(x)(1−f(x))
公式推导部分
对于第i个样本输入,
隐含层第j个神经元输入为:
netj=∑p=1nωjp∗xp+bj
隐含层第j个神经元输出为: f(netj)
BP模型输出为:
y(i)=∑j=1kωoj∗f(netj)+bo
对于第i个样本,误差定义为: E(i)=12[t(i)−y(i)]2
根据误差反向传播算法有:
输出-隐含层权值 修正 梯度:
∂E(i)∂