5、扩展卡尔曼滤波（EKF）训练的扩展与增强及汽车应用

扩展卡尔曼滤波（EKF）训练的扩展与增强及汽车应用

1. EKF训练的扩展与增强

1.1 带约束权重的EKF训练

EKF训练过程具有二阶特性，在某些问题中，经EKF训练的网络权重值往往会变得很大，如在10到100之间。这一特性有利有弊，一方面，某些问题可能确实需要较大的权重值，而EKF方法能有效找到这类问题的解；另一方面，训练好的网络可能需要在定点运算中执行，这就要求对网络的输入、输出和权重值范围加以限制。

对于非线性Sigmoid节点，节点输出通常限制在 -1 到 +1 之间，输入信号也可通过线性变换使其落在该范围内，但传统EKF方法对权重值没有限制。为解决这一问题，我们在训练过程中引入一种机制来限制权重值范围，这不仅能使训练好的网络适用于定点部署，还有助于提高网络的泛化能力。

具体做法是将无约束的非线性优化问题转化为带约束的优化问题。把网络的每个权重值视为一个单调递增函数 ( f() ) 的输出，该函数在极值处有饱和限制，例如Sigmoid函数。这样，EKF递归在无约束空间中进行，而网络的权重值是训练过程中相应无约束值的非线性变换。

假设网络权重向量 ( w_k ) 被限制在 -a 到 +a 的范围内，约束权重向量的每个分量 ( w_{i,j}^k )（第i个节点的第j个权重）通过函数 ( w_{i,j}^k = f(\tilde{w} {i,j}^k ; a) ) 与无约束值 ( \tilde{w} {i,j}^k ) 相关联。EKF递归的设计使得权重更新在无约束权重空间进行，而前向传播和导数反向传播步骤在约束权重空间进行。

训练步骤如下：
1. 在时间步k，将输入向量传入网络，