基于慢特征分析的变化检测方法
前段时间阅读了两篇利用慢特征分析进行变化检测的论文,其中一篇是利用慢特征分析进行变化检测,另一篇则是在前一篇提出的算法的基础上进行相对辐射校正。下面对这一基于慢特征分析的变化检测方法进行介绍。
1 慢特征分析
慢特征分析(slow feature analysis, SFA)是一种非监督学习方法,它可以从时间序列中提取变化缓慢的特征。在数学上,SFA可以表示成为一个最优化问题,在保持信号信息量的前提下,最小化输出信号的变化频率。
给定一个n维的时序输入信号 [ x 1 ( t ) , x 2 ( t ) , . . . , x n ( t ) ] [x_{1}(t),x_{2}(t),...,x_{n}(t)] [x1(t),x2(t),...,xn(t)] ,SFA旨在找到一组函数 [ g 1 ( x ) , g 2 ( x ) , . . . , g M ( x ) ] [g_{1}(x),g_{2}(x),...,g_{M}(x)] [g1(x),g2(x),...,gM(x)] ,通过这组函数得到输出信号 ,这些信号变化得尽可能慢但是又包含了重要的信息。SFA的线性模型可以写成如下形式:
m i n Δ j = Δ ( z j ) = < z j 2 ˙ > min \Delta_{j}= \Delta(z_{j})=<\dot{z_{j}^{2}}> minΔj=Δ(zj)=<zj2˙>
s . t . { < z j > t = 0 < z j 2 > t = 1 ∀ i < j , < z i z j > t = 0 s.t.\left\{\begin{matrix}<z_{j}>_{t} =0 \\ <z_{j}^{2}>_{t} =1 \\ {\forall}i<j,<z_{i}z_{j}>_{t} =0 \end{matrix}\right. s.t.⎩⎨⎧<zj>t=0<zj2>t=1∀i<j,<zizj>t=0
< ⋅ > t <\cdot >_{t} <⋅>t 表示序列的期望, z ˙ \dot{z} z˙表示时序差分,在线性的情况下, g j ( x ) = w j T x g_{j}(x)=w_{j}^{T}x gj(x)=wjTx 。
我们对x进行中心化,这样即可满足约束(1),目标函数和后两个约束可重写为
Δ ( z j ) = < z j 2 ˙ > t = < ( w j T x ˙ ) 2 > t = w j T < x ˙ x ˙ T > t w j = w j T A w j \Delta(z_{j})=<\dot{z_{j}^{2}}>_{t}=<(w_{j}^{T}\dot{x})^{2}>_{t}=w_{j}^{T}<\dot{x}\dot{x}^{T}>_{t}w_{j}=w_{j}^{T}Aw_{j} Δ(zj)=<zj2˙>t=<(wjTx˙)2>t=wjT<x˙x˙T>twj=wjTAwj
< z j 2 > t = < ( w j T x ) 2 > t = w j T < x x T > t w j = w j T B w j <z_{j}^{2}>_{t} =<(w_{j}^{T}x)^{2}>_{t}=w_{j}^{T}<xx^{T}>_{t}w_{j}=w_{j}^{T}Bw_{j} <zj2>t=<(wjTx)2>t=wjT<xxT>twj=wjTBwj
< z i z j > t = < ( w i T x ) 2 > t = w i T < x x T > t w j = w i T B w j <z_{i}z_{j}>_{t}=<(w_{i}^{T}x)^{2}>_{t}=w_{i}^{T}<xx^{T}>_{t}w_{j}=w_{i}^{T}Bw_{j} <zizj>t=<(w