基于MEE、MCC的非线性自适应滤波及应用
1 性能退化容忍与ITL高级搜索算法概述
在处理噪声和浅局部极小值问题时,为增强鲁棒性,通常会允许一定程度的性能退化。对于均方误差(MSE)准则,常见做法是规定性能的最大变化百分比,如允许5%的退化容忍度,即满足如下公式:
$J_{k+1}/J_{k} > 1.05$
若该式成立,则认为性能退化超出容忍极限,当前更新会被舍弃,并调整搜索参数以稳定学习;若不成立,则可继续使用当前搜索参数或调整参数以加速学习。
ITL高级搜索算法是在MSE代价函数基础上发展和适配而来的,但部分假设可能与ITL算法特性冲突。一般而言,将上述高级参数搜索技术应用于熵和散度代价等ITL准则较为直接,但需注意新代价的特殊性以获得理想结果。
2 ITL高级搜索算法关键问题及解决方案
2.1 自适应核大小问题
ITL的熵和散度代价有一个自由参数——核大小,它是学习过程的核心,因为样本间的相互作用由样本间距和核大小介导,从而引发自适应过程。研究表明,训练期间允许核大小自适应可改善结果,但直接应用自适应核大小会给许多高级参数搜索技术带来问题。
核大小控制着性能表面的形状。不同核大小下,性能表面虽总体形状和极值位置相似,但存在显著差异:一是核越大,性能表面相对越平滑;二是性能函数值随核大小变化。自适应过程中核大小的改变会产生动态性能表面,这对假设静态表面的搜索算法影响极大,可能导致发散和不稳定,受影响的关键算法包括线搜索和共轭方向选择。
为适应动态性能表面,在需要进行性能比较或线搜索的搜索步骤序列执行期间,核大小保持当前值不变。完成这些步骤并确定权重集
超级会员免费看
订阅专栏 解锁全文
58

被折叠的 条评论
为什么被折叠?



