26、脉冲神经网络：架构、编码、学习算法与硬件实现

脉冲神经网络：架构、编码、学习算法与硬件实现

1. 脉冲神经网络基础

脉冲神经网络（SNN）是类脑研究的产物，在多个方面与生物神经元特性紧密关联。

1.1 生物神经元不应期特性匹配

为更好匹配生物神经元不应期规律，SRM（Spike Response Model）考虑设置灵敏度函数来描述不应期。在不应期内，生物神经元膜电位受脉冲信号影响较小，但并非完全无响应，神经元受外部刺激的程度为正常情况的 1%以内，且其灵敏度随时间呈指数增长，最终恢复正常。

1.2 脉冲神经网络拓扑结构

脉冲神经网络的连接十分复杂，常见的拓扑结构有以下三种：
- 前馈拓扑结构 ：这是脉冲神经网络中最常见的结构。神经元按层次排列并相互连接，同一层内的神经元互不相连。运行时，前一层神经元的输出作为下一层神经元的输入，输出层神经元的运算结果代表整个神经网络的输出。常见的前馈脉冲神经网络结构有多层全连接脉冲神经网络和卷积脉冲神经网络。与传统前馈人工神经网络不同，脉冲神经网络在前后层神经元之间可能存在多个连接关系，且由于脉冲神经元输出信号的突触延迟，网络第一层的输出可以在不同时间传输到第二层神经元，多个突触和突触延迟使脉冲神经元能在更长时间尺度上影响突触后神经元的膜电位状态。
- 循环拓扑结构 ：与前馈拓扑不同，循环拓扑具有循环关系。循环脉冲神经网络中神经元输出的脉冲信号不仅能作用于其他神经元，还能刺激自身膜电位的变化，这种反馈机制使神经网络能够对更复杂的时变系统进行建模。循环脉冲神经网络主要分为全局循环脉冲神经网络和局部循环脉冲神经网络，可应用于自然语言处理、语音处理和图像