16、人工神经网络、数字信号处理与生物神经系统的关联及动态特性

人工神经网络、数字信号处理与生物神经系统的关联及动态特性

1. 人工神经网络与数字信号处理的关系

人工神经网络（ANNs）和数字信号处理（DSP）之间存在着紧密的联系。将图1中的人工神经元与图13中的非递归有限脉冲响应（FIR）滤波器进行比较，二者的差异主要在于单位延迟为 (z^{-1}) 的延迟线，并且FIR滤波器没有阈值。

延迟线的作用是将时间序列转换为空间模式，通过“保存”不同时间段的值，使神经元能够识别序列中的模式，这种系统有时被称为“时间延迟”神经元或网络。

在常规滤波器设计中，滤波器系数 (h(n)) 的计算十分繁琐，且一旦确定就固定不变，这使得滤波器缺乏灵活性。不过，已经有研究人员开发出了自适应滤波器算法，这些算法能让滤波器像ANN一样“学习”，其基本原理与反向传播（BP）算法类似。对于ANN，通过改变网络的权重 (w_x) 来实现训练；而在DSP模型中，这相当于改变FIR滤波器中的系数 (h(g))，从而使滤波器能够自适应地改变其传递函数。这种自适应特性既可以在滤波器运行前进行设计，也能在处理信号时实时改变滤波器的特性。

除了使用简单神经元构建滤波器，还可以利用网络来构建滤波器，如图14所示。通过将多个神经元连接到另一个（输出）延迟线，还能实现时间序列到时间序列的映射，如图15所示。

递归无限脉冲响应（IIR）滤波器在DSP中与Hopfield网络相对应，如图16所示。在生物网络中，数据以有限的速率传输，由于每个神经元都与其他神经元相连，因此网络很可能形成如图17所示的滤波器结构。“滤波”是感知的一部分，很可能是生物神经网络（BNN）的关键要素。因此，在进化神经网络中需要引入时间延迟这一元素，以便网络能够形成时间滤波结构。值