神经建模中的STAA方法:节点、网络与参数解析
在神经建模领域,STAA(Spatio-Temporal Average Activity)方法为我们理解和构建神经网络提供了独特的视角。本文将深入探讨STAA方法中的节点、简单神经网络结构以及相关参数的作用。
1. STAA节点的基本原理
1.1 节点的激活水平计算
在连接主义模型中,节点的激活水平是理解神经网络运行的基础。节点的激活水平($a_j$)通过以下公式计算:
$a_j = \sum_{i} w_{ij} * o_i$
其中,$o_i$ 是上游节点 $i$ 的输出 firing 率,$w_{ij}$ 是节点 $i$ 与节点 $j$ 之间的连接权重。连接权重可以是正的(兴奋性连接)或负的(抑制性连接),分别用于提高或降低节点 $j$ 的激活水平。
1.2 输出 firing 率的计算
直接将输出 firing 率等同于节点的激活水平过于简单,因为这会使神经元成为线性计算设备,极大地限制了神经网络的能力。为了解决这个问题,引入了激活函数 $f$:
$o_i = f(a_i)$
常见的激活函数包括逻辑函数和修正线性函数。激活函数的作用是将节点的激活水平归一化,使得输出 firing 率在非常正的激活水平下为 1,在非常负的激活水平下为 0,这两种极端情况可以看作是一种神经饱和状态。需要注意的是,激活水平为 0 时通常会产生正的输出 firing 率,这可以被解释为节点的自诱导 firing 率(静息状态 firing 率)。
超级会员免费看
订阅专栏 解锁全文
159

被折叠的 条评论
为什么被折叠?



