CSR-DCF视频目标跟踪论文笔记（2）——关于滤波器Learning的推导（Augmented Lagrangian方法）

1. 论文基本信息

• 论文标题：Discriminative Correlation Filter with Channel and Spatial Reliability
• 作者：Alan Lukezic等
• 出处：CVPR，2017
• 文章链接：https://arxiv.org/abs/1611.08461
• 补充材料：https://www.semanticscholar.org/paper/Discriminative-Correlation-Filter-with-Channel-and-Luke%C5%BEi%C4%8D-Voj%C4%B1-%C5%99/7b485979c75b46d8c194868c0e70890f4a0f0ede
• 源码链接：https://github.com/alanlukezic/csr-dcf

这篇笔记主要针对滤波器求解的推导过程进行分析（拉格朗日乘子法），主要参考内容是原文的补充材料，关于论文其他部分创新点及其整体思路会在后续文章中进行分析。（笔记1的链接：http://blog.youkuaiyun.com/discoverer100/article/details/78182306）

2. 滤波器求解目标函数的构建

在多通道情况下，目标函数为

$$\begin{array}{c} \mathop {\arg \min }\limits_{\bf{h}} \sum\limits_{d = 1}^{{N_d}} {\left( {{{\left\| {{{\bf{f}}_d} \odot {{\bf{h}}_d} - {\bf{g}}} \right\|}^2} + \lambda {{\left\| {{{\bf{h}}_d}} \right\|}^2}} \right)} \\ {\rm{ = }}\mathop {\arg \min }\limits_{\bf{h}} \sum\limits_{d = 1}^{{N_d}} {\left( {{{\left\| {{\bf{\hat h}}_d^H{\rm{diag}}\left( {{{{\bf{\hat f}}}_d}} \right) - {{\hat g}_d}} \right\|}^2} + \lambda {{\left\| {{{{\bf{\hat h}}}_d}} \right\|}^2}} \right)} \end{array} \tag{1}$$
其中， $\bf{h}$表示滤波器， $d=1toN_d$表示 $N_d$个通道， $\bf{g}$表示期望的响应输出， $\lambda$表示正则项用于防止过拟合（关于正则项为什么可以防止过拟合可以参考： http://www.cnblogs.com/alexanderkun/p/6922428.html）

根据上述(1)式，为简化推导过程，将多通道情况改为单通道情况模式，则目标函数为

$$\begin{array}{c} \mathop {\arg \min }\limits_{\bf{h}} {\left\| {{\bf{f}} \odot {\bf{h}} - {\bf{g}}} \right\|^2} + \lambda {\left\| {\bf{h}} \right\|^2}\\ {\rm{ = }}\mathop {\arg \min }\limits_{\bf{h}} {\left\| {{{{\bf{\hat h}}}^H}{\rm{diag}}\left( {{\bf{\hat f}}} \right) - \hat g} \right\|^2} + \lambda {\left\| {{\bf{\hat h}}} \right\|^2} \end{array} \tag{2}$$
引入变量 $\bf{h}_c$并定义约束条件
$${{\bf{h}}_c} - {{\bf{h}}_m} = 0 \tag{3}$$
其中， ${{\bf{h}}_m} \equiv {\bf{m}} \odot {\bf{h}}$，而 $\bf{m}$表示论文中的空间置信图（spatial reliability map），也可以理解为一个mask，具体概念可以参考前面的一篇文章： http://blog.youkuaiyun.com/discoverer100/article/details/78182306，上述(3)式中引入的变量 $\bf{h}_c$可以先不理会其物理意义，它的主要作用是让算法能够收敛（论文原文表述：prohibits a closed-form solution），个人猜测：这里的下标命名为c，可能就是取constrained的第一个字母。

对(2)式引入上述约束条件，并进一步调整，得到最终的目标函数

$$\begin{array}{l} \mathop {\arg \min }\limits_{{{\bf{h}}_c},{{\bf{h}}_m}} {\left\| {{\bf{\hat h}}_c^H{\rm{diag}}\left( {{\bf{\hat f}}} \right) - \hat g} \right\|^2} + \frac{\lambda }{2}{\left\| {{{{\bf{\hat h}}}_m}} \right\|^2}\\ s.t.\;{{\bf{h}}_c} - {{\bf{h}}_m} = 0 \end{array} \tag{4}$$
上述的正则项前面多出了一个系数 $1/2$，其主要意图是求导数后系数可以变为 $1$，便于公式书写。

这样，公式(4)就是我们推导的起始表达式。

3. 构建Lagrange表达式

根据上述目标函数，以及Augmented Lagrangian方法（参考Distributed optimization and statistical learning via the alternating direction method of multipliers），构建Lagrang表达式，如下

$${\cal L}\left( {{{{\bf{\hat h}}}_c},{\bf{h}},{\bf{\hat I}}\left| {\bf{m}} \right.} \right) = {\left\| {{\bf{\hat h}}_c^H{\rm{diag}}\left( {{\bf{\hat f}}} \right) - \hat g} \right\|^2} + \frac{\lambda }{2}{\left\| {{{\bf{h}}_m}} \right\|^2} + \left[ {{{{\bf{\hat I}}}^H}\left( {{{{\bf{\hat h}}}_c} - {{{\bf{\hat h}}}_m}} \right) + \overline {{{{\bf{\hat I}}}^H}\left( {{{{\bf{\hat h}}}_c} - {{{\bf{\hat h}}}_m}} \right)} } \right] + \mu {\left\| {{{{\bf{\hat h}}}_c} - {{{\bf{\hat h}}}_m}} \right\|^2} \tag{5}$$
其中，字母 $\bf{I}$表示Lagrange乘数，字母上面的横杠表示 共轭矩阵，字母右上方的 $H$表示 共轭转置矩阵，因此有规律： ${{\bf{\bar A}}^T} = {{\bf{A}}^H}$（后面的推导中可能同时存在两种表示，需要留意）。将上述(5)式进行向量化表示，可得
$${\cal L}\left( {{{{\bf{\hat h}}}_c},{\bf{h}},{\bf{\hat I}}\left| {\bf{m}} \right.} \right) = {\left\| {{\bf{\hat h}}_c^H{\rm{diag}}\left( {{\bf{\hat f}}} \right) - \hat g} \right\|^2} + \frac{\lambda }{2}{\left\| {{{\bf{h}}_m}} \right\|^2} + \left[ {{{{\bf{\hat I}}}^H}\left( {{{{\bf{\hat h}}}_c} - \sqrt D {\bf{FMh}}} \right) + \overline {{{{\bf{\hat I}}}^H}\left( {{{{\bf{\hat h}}}_c} - \sqrt D {\bf{FMh}}} \right)} } \right] + \mu {\left\| {{{{\bf{\hat h}}}_c} - \sqrt D {\bf{FMh}}} \right\|^2} \tag{6}$$
不难看出，上述(5)式到(6)式，主要变化就是将变量 ${{{{\bf{\hat h}}}_m}}$的表达式替换为 ${\sqrt D {\bf{FMh}}}$，其中 $F$表示离散傅里叶变换矩阵，它相当于一个常量， $D$是 $F$的大小（ $F$是一个 $D \times D$的方阵）， $\bf{M}={{\rm{diag}}\left( {{\bf{m}}} \right)}$

将上述(6)式简单表述为四个项的和，为

$${\cal L}\left( {{{{\bf{\hat h}}}_c},{\bf{h}},{\bf{\hat I}}} \right) = {{\cal L}_1} + {{\cal L}_2} + {{\cal L}_3} + {{\cal L}_4} \tag{7}$$
其中，
$$\left\{ \begin{array}{l} {{\cal L}_1} = {\left\| {{\bf{\hat h}}_c^H{\rm{diag}}\left( {{\bf{\hat f}}} \right) - \hat g} \right\|^2} = \left( {{\bf{\hat h}}_c^H{\rm{diag}}\left( {{\bf{\hat f}}} \right) - {\bf{\hat g}}} \right){\overline {\left( {{\bf{\hat h}}_c^H{\rm{diag}}\left( {{\bf{\hat f}}} \right) - {\bf{\hat g}}} \right)} ^T}\\ {{\cal L}_2} = \frac{\lambda }{2}{\left\| {{{\bf{h}}_m}} \right\|^2}\\ {{\cal L}_3} = {{{\bf{\hat I}}}^H}\left( {{{{\bf{\hat h}}}_c} - \sqrt D {\bf{FMh}}} \right) + \overline {{{{\bf{\hat I}}}^H}\left( {{{{\bf{\hat h}}}_c} - \sqrt D {\bf{FMh}}} \right)} \\ {{\cal L}_4} = \mu {\left\| {{{{\bf{\hat h}}}_c} - \sqrt D {\bf{FMh}}} \right\|^2} = \mu \left( {{{{\bf{\hat h}}}_c} - \sqrt D {\bf{FMh}}} \right){\overline {\left( {{{{\bf{\hat h}}}_c} - \sqrt D {\bf{FMh}}} \right)} ^T} \end{array} \right. \tag{8}$$

4. 开始优化，首先对h_c求偏导数

对上述公式(4)的优化可以表述为下面的迭代过程

$$\begin{array}{l} {\bf{\hat h}}_c^{{\rm{opt}}} = \mathop {\arg \min }\limits_{{{\bf{h}}_c}} L\left( {{{{\bf{\hat h}}}_c},{\bf{h}},{\bf{\hat I}}} \right)\\ {{\bf{h}}^{{\rm{opt}}}} = \mathop {\arg \min }\limits_{\bf{h}} L\left( {{\bf{\hat h}}_c^{{\rm{opt}}},{\bf{h}},{\bf{\hat I}}} \right) \end{array} \tag{9}$$
现在看关于变量 ${{\bf{\hat h}}_c}$的优化，需要令满足 ∇