基底可塑性:实现神经网络动态学习规则
在神经网络的研究中,让基底具备可塑性并使神经节点的突触权重能通过经验改变是一个重要的研究方向。本文将探讨如何实现这一目标,重点介绍两种学习规则:ABC(abcn)和迭代学习规则,并详细阐述其实现过程。
1. 基底可塑性概述
当前的神经网络(NN)能够生成神经节点之间的突触权重,但为了让基底具备可塑性,我们不能仅仅依赖于连接神经节点的坐标来生成权重。若我们向NN输入的不仅是连接神经节点的坐标,还包括神经节点的突触前信号、突触后信号以及当前连接的权重,并且将NN的输出指定为权重的变化而非新的突触权重,同时让NN在每次基底处理一组感官向量时持续生成这些权重变化,那么整个NN将成为一个学习规则生成系统。
例如,我们可以对基底的输入和输出向量进行修改:
- 将 substrate_cpp 输入给NN的向量从 [X1,Y1...X2,Y2...] 改为 [X1,Y1...X2,Y2...PreSynaptic,PostSynaptic,CurWeight] 。
- 将标准的 substrate_cep 输出从 [SynapticWeight] 改为 [Delta_SynapticWeight] 。
- 将 substrate_state_flag 设置为迭代模式,让NN在每次基底处理信号后生成 Delta_SynapticWeight 信号。
这样,在处理感官信号后,基
基底可塑性实现神经网络动态学习规则
超级会员免费看
订阅专栏 解锁全文
37

被折叠的 条评论
为什么被折叠?



