14、人工神经网络中的统计训练与循环反向传播网络研究

人工神经网络中的统计训练与循环反向传播网络研究

1. 统计训练案例研究：使用随机感知机模型识别AR信号参数

在信号处理领域，准确识别自回归（AR）信号的参数是一个重要的问题。本案例研究旨在利用随机感知机模型来完成这一任务，与之前使用确定性感知机的研究形成对比。

1.1 问题设定

信号 $x(n)$ 满足纯AR时间序列模型，其AR方程为：
$x(n) = \sum_{i=1}^{m} a_ix(n - i) + w(n)$
其中，$m$ 是模型的阶数，$a_i$ 是AR参数向量的第 $i$ 个元素。用于生成 $x(n)$ 的真实AR参数为：
$a_1 = 1.15$，$a_2 = 0.17$，$a_3 = -0.34$，$a_4 = -0.01$，$a_5 = 0.01$

为了最小化均方误差（MSE），我们需要寻找 $a_i$ 的估计值 $\hat{a} i$。MSE的计算公式为：
$MSE = \hat{E}[e^2(n)] = \frac{1}{N} \sum {i=1}^{N} e^2(i)$
其中，误差 $e(n)$ 定义为 $e(n) = x(n) - \hat{x}(n)$，$\hat{x}(n) = \sum_{i=1}^{m} \hat{a}_ix(n - i)$。$\hat{x}(n)$ 也可以用向量形式表示为 $\hat{x}(n) = \hat{a}^T x(n)$，其中 $\hat{a} = [\hat{a}_1 \cdots \hat{a}_m]^T$，$\hat{x}_n = [x(n - 1) \cdots x(n - m)]^T$，$T$ 表示转置。 </