19、神经形态系统中的学习机制与应用探索

神经形态系统中的学习机制与应用探索

1 学习轨迹与有限尺寸效应

1.1 学习轨迹

在缓慢学习的情境中，网络的“良好”学习轨迹，也就是网络在趋向选择性吸引子状态过程中所经历的突触配置序列，应当是一系列准平衡状态。这些序列具有可通过平均场理论近似进行研究和控制的特点。同时，为保证在每个学习阶段长时程抑制（LTD）和长时程增强（LTP）之间的平衡，需要对突触模型的参数进行调整。引入合适的调节机制或许能放宽这一严格要求。

1.2 有限尺寸效应

任何实际的网络都包含有限数量的神经元 N。有限尺寸效应十分重要，它会导致与平均场理论预测结果的偏差。具体而言，对于有限的 N，每个神经元群体都有其发射率分布。以连接受相同刺激的神经元群体的突触为例，这些突触本应被增强，但实际频率分布的高、低速率尾部会破坏突触转换概率模式的均匀性，使得同一突触组中，部分突触的 LTP 概率过高，而部分则意外保持不变。

此外，有限尺寸效应还可能在不期望且有害的地方引发不必要的突触转换，例如涉及突触后背景神经元的突触增强，这可能成为自发状态不稳定的根源。“突触传递函数”的特性，即给出 LTP/LTD 转换概率与突触前和突触后发射率关系的函数，是影响有限尺寸效应危害程度的一个因素。该函数在发射率分布重叠的临界区域的敏感性，是决定有限尺寸效应严重程度的重要因素。

2 神经形态芯片中的吸引子状态

2.1 吸引子的意义

点吸引子可被视为构成大脑内部对话的复杂动态“词汇”的基本离散“符号”，尽管目前距离定义相关计算范式还很遥远，但认识到吸引子的潜在计算作用，为在神经形态超大规模集成电路（VLSI）芯片中实现吸引子动力