关于ADMM算法中迭代优化的一种简化形式

关于ADMM算法中迭代优化的一种简化形式

一. 优化问题描述

求解这样一个具有等式约束的稀疏优化问题，其中矩阵 $A\in {\mathcal{R}}^{m\times n}$ 和 $B\in {\mathcal{R}}^{m\times r}$ 是已知的，矩阵 $X\in {\mathcal{R}}^{n\times r}$ 和 $Y\in {\mathcal{R}}^{m\times r}$ 是需要优化的：
$$\begin{array}{rl}\underset{X,Y}{\min }& \Vert Y{\Vert }_1\\ s.t.& AX-Y=B\end{array}$$

二. 常用的迭代步骤

优化问题 (1) 的拉格朗日函数可以写为
$$\begin{array}{r}L(X,Y)=\Vert Y{\Vert }_1+<\Gamma ,AX-Y-B>+\frac{\mu }{2}\Vert AX-Y-B{\Vert }_F\end{array}$$
其中，$\Gamma \in {\mathcal{R}}^{m\times r}$ 是拉格朗日乘子.

迭代步骤
更新 $X$:
$$\begin{array}{rl}{X}^{k+1}& =\underset{X}{\mathrm{argmin}}<\Gamma ,AX-Y-B>+\frac{\mu }{2}\Vert AX-Y-B{\Vert }_F\\ & =\underset{X}{\arg }\end{array}$$