分裂布雷格曼方法--(Split Bregman Method)

因为毕设做TV去噪去卷积相关的内容，需要用到分裂布雷格曼算法，算是认真读了经典论文《The Split Bregman Method for L1-Regularized Problems》，翻译总结了这个算法一些主要步骤。因为数学基础不太够，所以对这个算法还没有什么太深刻的认识，先挖个坑，把毕设做完了之后再来多写一点东西。

布雷格曼迭代

考虑一个受限优化问题，一个凸能量函数，E，和一个线性函数A。要求解的一般的受限问题是

 .                    5.7

类似与引入拉普拉斯算子的方法，一般我们可以把上述问题转化为

                        5.8 

但是很多问题，我们必须要使比较大才能求解，但是这又会导致很难数值求解。

布雷格曼迭代是一个概念，最初出现在函数分析中求解凸函数的极值。最初被Osher等人引入到图像处理中，应用于TV去噪最优化问题中。先讨论布雷格曼距离，与凸函数在点有关的布雷格曼距离是

     5.9         

其中p是E在v点的子梯度。布雷格曼距离并不是一般意义上的距离，但是它确实度量了在线段u上v和的接近。我们再考虑两个凸能量函数E和H。相关的非受限最小化问题为

                      5.10

我们可以通过迭代求解这个问题

                  

 

利用布雷格曼距离求解首先优化问题，我们希望求解等式5.7给出的受限优化问题，其非受限转化形式由5.8给出。对于等式5.8，应用布雷格曼距离迭代最小化

               

上述形式可以简化为[67]

                    

换句话说，我们只需将约束中的误差加回等式5.17右侧。 这是用于TV去噪的ROF模型中“加回噪声”的类比[66]。

 

分裂布雷格曼迭代

利用分裂布雷格曼迭代的关键是分离L1和L2范数项，考虑最小化问题

.                   (5.19)

将此受限问题转化为无受限问题

                            (5.20)

对等式5.20使用布雷格曼迭代，并应用类似于等式5.17和5.18的简化，我们可以得到简洁的两步算法

       

至此，正则化优化问题已经变化为一系列非受限优化问题和布雷格曼迭代。这个方法比起传统的公式计算正则化优化问题更为简单。接下来我们需要求解等式5.21，因为我们已经分离函数中L1和L2组分，可以通过分别迭代最小化和。我们可以分别通过两步实现

             

  

综上，可以总结得到分裂布雷格曼算法的一般步骤如下所示。至此，本文总结文献给出了分裂布雷格曼方法解决L1范数优化问题的方法，具体的TV去卷积去噪的应用将在第三节给出。