基板可塑性:实现神经网络的动态学习
1. 引言
在神经网络的发展中,让基板具备可塑性,从而使神经元之间的突触权重能够通过经验进行改变,是一个重要的研究方向。目前,我们的系统已经有了高度先进的直接编码神经网络实现,但还缺少基板可塑性这一关键要素。接下来,我们将探讨如何实现基板可塑性,并介绍相关的学习规则。
2. 实现基板可塑性的思路
传统的神经网络在计算突触权重时,通常仅依据连接神经元的坐标。但如果我们不仅向神经网络输入连接神经元的坐标,还输入神经元的突触前信号、突触后信号以及当前连接权重,并且将神经网络的输出指定为权重的变化量而非新的突触权重,同时让神经网络在每次基板处理一组感官向量时持续产生这些变化,那么整个神经网络将成为一个学习规则生成系统。
例如,我们可以对 substrate_cpp 进行修改,将输入向量从 [X1,Y1...X2,Y2...] 改为 [X1,Y1...X2,Y2...PreSynaptic,PostSynaptic,CurWeight] ;对 substrate_cep 进行修改,将输出从 [SynapticWeight] 改为 [Delta_SynapticWeight] 。此外,将 substrate_state_flag 设置为 iterative ,让神经网络在每次基板处理信号后产生 Delta_SynapticWeight 信号。这样,在处理感官信号后,基
超级会员免费看
订阅专栏 解锁全文
56

被折叠的 条评论
为什么被折叠?



