【深度学习基础-07】神经网络算法（Neural Network）上--BP神经网络基础理论

目录

1 起源

2 多层向前神经网络（Multilayer Feed-Forward Neural Network）

3 设计神经网络

 4 交叉验证方法

5 BP神经网络算法

---

1 起源

以人脑中的神经网络为启发，出现过不同的版本

最著名的算法是1980年的BP神经网络（Backpropagation）

2 多层向前神经网络（Multilayer Feed-Forward Neural Network）

2.1 BP神经网络被使用在多层向前神经网络

2.2 多层向前神经网络包含以下部分：

      输入层input layer       隐藏层 hidden layer      输出层 output layer

2.3 每层由单元units组成

2.4 输入层是由训练集的实例特征向量传入

2.5 经过连接点的权重weight传入到下一层，上一层的输入是下一层的输入

2.6 隐藏层的个数可以是任意的，输入层只有一层，输出层只有一层

2.7 每个单元unit也可以称为神经结点

2.8 神经网络有几层？除了输入层那一层的个数就是几层

2.9 一层中加权求和，然后根据非线性方程转化输出

2.10