SNN介绍-来自脉冲神经网络原理

    神经科学的一些实验证据表明，视觉与听觉等许多生物神经系统都采用神经元发放的动作电位(即脉冲)的时间来编码信息。针对这些问题，更加符合生物神经系统实际情况的第三代人工神经网络模型--脉冲神经网络应运而生。脉冲神经网络使用时间编码的方式进行信息传递与处理，直接利用神经元的脉冲发放时间作为网络模型的输入与输出，从而实现信息的高效处理。

    脉冲神经网络的拓扑结构分为前馈型脉冲神经网络，递归型脉冲神经网络和混合型脉冲神经网络，我们在这里只简要介绍前馈型脉冲神经网络，对于他的模型有大致的了解。神经元的样式这里不再介绍，可能读者在其他很多文章都有见过。在多层前馈脉冲神经网络中，网络中的神经元是分层排列的，每个神经元只与前一层的神经元相连接。和CNN类似，也分为输入层，中间层(隐含层，多个)，输出层。输入层各神经元的脉冲序列表示对具体问题输入数据的编码，并将其输入脉冲神经网络的下一层。最后一层为输出层，该层各神经元输出的脉冲序列构成构成网络的输出。如下图所示:

    接下来介绍脉冲神经网络当中单个神经元的数学模型，模拟单个神经元的发放电情况。生物神经元的离子是传递电信号的重要媒介，电信号的产生是由于细胞膜两侧的离子发生流动而形成了浓度差，从而导致细胞膜内外电位差，通过研究神经元膜电位和离子电导变化的关系，给出了描述神经元兴奋的微分方程组。由此产生的生物可解释性的生理模型包括(具体的等效电路图和推导可自行详细了解): Hodgkin-Huxley神经元模型，Morris-Lecar神经元模型，FitzHugh-Nagumo神经元模型，Hindmarsh-Rose神经元模型，Izhikevich神经元模型，Integrate-and-Fire神经元模型等。其中HH模型精确度高，但运算量大。LIF模型运算量小，但牺牲了精确度。Izhikevich模型结合了两者的优势，生物精确性接近HH模型，运算复杂度接近LIF模型。

Izhikevich给出了如下所示的而为脉冲神经元模型:

 如果神经元的膜电位V >= 30mV, 辅助的复位机制为:

    式中，V表示膜电位, U表示恢复变量 ，用来代替生理模型中激活的K+电流和失活的Na+电流，实现对膜电位V的负反馈。

    Izhikevich神经元模型中的参数a,b,c,d是无量纲参数，随着a,b,c,d取值的变化，神经元模型可以表现出丰富的脉冲发放模式, 参数a表示恢复变量U的时间尺度，a的值越小,表示恢复得越慢;参数b表示恢复变量U依赖于膜电位V得阈值下随机波动得敏感程度,参数c表示神经元发放脉冲后膜电位V得复位值;参数d表示神经元发放脉冲后,恢复变量U的复位值。各个参数的意义如下图:

     选取合适的神经元模型后，再参考人的识别流程图，即可组建自己的模型进行具体的图片识别或者分类操作。

参考:

1.脉冲神经网络原理

2.最后一张各参数意义的图来自:SNN系列｜神经元模型篇(2) Izhikevich_Tianlong Lee的博客-优快云博客_izhikevich模型