6、人工神经网络中的反向传播与Hopfield网络

人工神经网络中的反向传播与Hopfield网络

1. 反向传播案例研究

1.1 异或问题（2层BP网络）

在异或问题的2层BP网络中，经过200次迭代后，得到了最终的权重和输出结果：
| 输入 | 输出 |
| — | — |
| (0, 0) | 0.06 |
| (0, 1) | 0.91 |
| (1, 0) | 0.91 |
| (1, 1) | 0.11 |

初始学习率为6，在100次迭代后学习率变为3。以下是该异或问题的C语言源代码，但文档中未给出完整代码，仅提及相关信息。

1.2 异或问题（3层BP网络）

对于异或问题的3层BP网络，经过420次迭代后，最终结果如下：
| 输入 | 输出 |
| — | — |
| (0, 0) | 0.03 |
| (0, 1) | 0.94 |
| (1, 0) | 0.93 |
| (1, 1) | 0.07 |

初始学习率为30，最终学习率为5，学习率每10次迭代减少1，即按照30, 29, 28, …, 5的顺序递减。该程序名为XOR 3.C（C语言），目的是使用3个隐藏层实现异或功能。

同时，还有一些相关的结论：
- 偏置有助于加快收敛速度。
- 3层网络比2层网络收敛速度慢。
- 收敛是突然的，而非渐进的。并且在这个例子中，学习率和收敛速度之间没有明显的关系。

1.3 平均每月高低温度预测

1.3.1 引言

预测未来的