24、神经形态计算综述

神经形态计算综述

1. 脉冲神经网络（SNN）模型

脉冲神经网络模型因事件驱动特性和更高的能源效率而受到广泛关注。在脉冲神经模型中，训练通常在传统神经网络中进行，然后将得到的解决方案适配到脉冲神经形态实现中。基于传统网络实现，衍生出了多种SNN模型，具体如下：
- 脉冲前馈网络：常用于低级感官系统。
- 脉冲递归网络：具有丰富的动态性和高计算能力，用于研究联想记忆映射。
- 脉冲深度神经网络
- 脉冲深度信念网络
- 脉冲Hebbian系统
- 脉冲Hopfield或联想记忆
- 脉冲赢家通吃网络
- 脉冲概率网络
- 脉冲随机神经网络
- 中央模式发生器：生成振荡运动，用于机器人运动。

2. 学习算法

学习算法在神经形态计算中起着至关重要的作用，这在传统计算系统中是缺失的。学习越准确、快速，系统得出解决方案的速度就越快。最佳的学习算法会考虑网络拓扑、模型和网络特性。其选择还取决于训练或学习是片外还是片上，以及算法是在线无监督、离线有监督还是两者兼具。大多数学习算法可分为有监督和无监督两类，具体如下：

2.1 有监督学习算法

• 反向传播算法 ：最原始的有监督算法，可应用于前馈、RNN、SNN和卷积神经网络等各种网络模型。基于反向传播的学习有多种方法，包括离线、在线、基于硬件、基于梯度下降的优化和芯片在环等。但反向传播算法面临两大挑战，一是对神经元模型类型和网络拓扑的限制，二是硬件实现成本较高。
• 其他流行模型 ：LMS算法、权