23、连接主义框架与神经网络单元解析

连接主义框架与神经网络单元解析

1. 并行分布式处理与连接主义模型

并行分布式处理（PDP）模型由 David Rumelhart、Geoffrey Hinton 和 James McClelland 提出，具有以下八个重要属性：
1. 一组处理单元
2. 激活状态
3. 每个单元的输出函数
4. 单元之间的连接模式
5. 通过连接网络传播活动模式的传播规则
6. 将作用于单元的输入与该单元的当前状态相结合以产生单元新激活水平的激活规则
7. 根据经验修改连接模式的学习规则
8. 系统必须运行的环境

此外，Geoffrey Hinton 和 Terrence Sejnowski 撰写了关于玻尔兹曼机学习和再学习的文章。多年后，Geoffrey Hinton 和他的学生 Ruslan Salakhutdinov 发表了关于深度玻尔兹曼机的论文。2014 年，Timothy T. Rogers 和 James McClelland 的文章不仅纪念了 PDP 出版 25 周年，还探讨了 PDP 模型在认知科学框架内如何发挥更大作用。

连接主义试图用人工神经网络解释心理现象，其核心观点是心理现象可以用由许多相互连接的简单统一单元组成的网络来模拟。单元和连接的形式可以根据模型而变化，网络中的单元可以代表大脑中的神经元，连接可以代表神经元的突触。连接主义还提出了一种认知理论，基于通过可数字化的连接表示来模拟并发分布式信号活动，并通过根据经验调整连接的权重来实现学习功能。

2. 连接主义学习理论与神经网络理论

连接主义的核心是连接主义模型。1982 年，Jerome A.