目录
5.1.3 对角矩阵结构在复 Hermitian 矩阵上的应用
5.2 Block Successive Upper-bound Minimization (BSUM)
5.2.1 块坐标下降与 MM 的融合(BSUM/WeBEST 算法)
5.2.3 FISTA 加速梯度与 Nesterov 外推技术应用
5.3.3 离散相位约束(Discrete Phase)的 MM 处理
第一部分:原理详解
5.1 MM 算法框架
5.1.1 surrogate 函数构造原理与紧上界设计
Majorization-Minimization 算法通过迭代优化目标函数的上界 surrogate 函数来求解非凸优化问题。设原始优化目标为最小化 $f(x)$ ,其中 $x \in \mathbb{C}^N$ 为复变量。MM 框架要求构造 surrogate 函数 $g(x|x^{(k)})$ 满足以下全局上界条件:
$$g(x|x^{(k)}) \geq f(x), \forall x \in \mathcal{X}$$
且在参考点 $x^{(k)}$ 处满足紧接触条件:
$$g(x^{(k)}|x^{(k)}) = f(x^{(k)})$$
$$\nabla_x g(x|x^{(k)})|_{x=x^{(k)}} = \nabla_x f(x)|_{x=x^{(k)}}$$
紧上界设计的关键在于利用目标函数的几何特性。对于凸函数 $f$ ,可直接采用一阶泰勒展开作为 surrogate;对于非凸但梯度 Lipschitz 连续的函数,则引入二次上界:
$$g(x|x^{(k)}) = f(x^{(k)}) + \langle \nabla f(x^{(k)}), x - x^{(k)} \rangle + \frac{L}{2} \|x - x^{(k)}\|_2^2$$
其中 $L$ 为 Lipschitz 常数,确保 surrogate 始终位于目标函数上方。在恒模约束 $\math
订阅专栏 解锁全文
73



被折叠的 条评论
为什么被折叠?



