自适应共振理论(ART):原理、应用与优势
1. 自适应共振理论概述
自适应共振理论(Adaptive Resonance Theory,ART)神经网络可对实时假设检验、搜索、学习、识别和预测进行建模。自20世纪80年代以来,这些人类认知信息处理模型已成为各种神经形态技术的计算引擎。ART模型能够针对大型非平稳数据库(大数据)进行假设检验、搜索以及增量式的快速或慢速、自稳定学习、识别和预测。
2. ART设计元素
2.1 分布式和胜者全得编码实现稳定快速学习
ART系统允许快速在线学习,即长期记忆在每次输入试验中达到渐近线;而慢速学习时,每次试验中记忆的变化很小。ART系统不同类别之间的一个区别特征是编码场F2中持续激活模式的性质。早期的ART网络采用局部主义或胜者全得编码,其记忆稳定性依赖于这种架构。为了实现分布式代码表示的稳定快速学习,分布式ART(dART)引入了新的网络配置和学习定律(dInstar和dOutstar),并使用动态权重替代传统的乘法权重。
- 动态权重 :在从F2编码节点j到F1匹配节点i的路径中,动态权重等于编码节点激活yj超过自适应阈值σji的量。
- 信号与激活 :从F2到第i个F1节点的总信号θi是这些动态权重的总和,F1节点激活xi等于自上而下的期望θi和自下而上的输入Ai的最小值。
- 学习特点 :当编码节点激活yj低于σji时,动态权重为零,该路径不发生学习。这种特性对于分布式代码的稳定快速学习至关重要。
以下是分布式ART(dART)的工作流程mer
超级会员免费看
订阅专栏 解锁全文
1万+

被折叠的 条评论
为什么被折叠?



