15、联想记忆学习规则的探索与应用

联想记忆学习规则的探索与应用

1. Hebb学习规则的局限性

Hebb学习规则在联想记忆理论发展中颇受欢迎，原因主要有三点：
- 符合邻近律 ：在联想主义的历史回顾中，邻近律是各理论的常量之一，Hebb规则优雅地阐述了这种基本联想模式。
- 具有生物学合理性 ：现代认知科学希望将功能理论特性与神经机制相联系，Hebb规则是为数不多具有生物学合理性的学习规则，许多研究者指出其与大脑中长时程增强的生物学机制相似。
- 错误具有研究价值 ：即使Hebb学习规则训练的记忆系统出错，这些错误也很有趣，因为在很多情况下，它们类似于人类联想学习实验中的错误。

然而，Hebb学习规则存在严重局限性：
- 刺激相关性要求高 ：只有当关联的刺激完全不相关时，记忆效果才好。一旦正交性假设被违反，就无法保证记忆在给定线索时能正确回忆响应。
- 对系统性能不敏感 ：Hebb规则不考虑记忆系统的性能，即使在已实现完美回忆、无需修改的情况下，仍会修改网络连接。

2. 克服Hebb学习规则的局限性

2.1 监督学习

在连接主义研究中，学习可分为无监督学习和监督学习。Hebb学习属于无监督学习，网络修改连接权重以记住环境中的规律，但不接收关于期望规律的信息，也没有关于响应是否正确的反馈，这导致网络SSE增加等问题。

监督学习的目标是让网络生成程序员（或教师）期望的响应集。当网络对刺激产生响应时，将观察到的响应与