52、黎曼流形上的一阶优化方法

黎曼流形上的一阶优化方法

1. 引言

近年来，利用黎曼几何工具解决约束优化问题的兴趣日益浓厚。这是因为众多优化问题可以自然地在黎曼环境中提出，从而显著降低求解成本。非线性规划的概念和技术从欧几里得背景扩展到黎曼场景的研究也在不断增加，这些扩展为算法的高效计算实现提供了理论支持。

从理论角度看，引入合适的度量可以将非凸的欧几里得问题转化为黎曼凸问题；从算法角度，它能对数值方法进行修改以找到全局最小值。此外，将约束优化问题视为内在的黎曼问题，而非使用拉格朗日乘数法、惩罚法或投影法，更能利用问题的几何结构。

黎曼优化不仅有理论和算法上的意义，还有许多实际应用，如在图像处理、计算机视觉、信号处理、医学成像、跟踪、机器人和场景运动分析等领域。

我们关注以下凸优化问题：
[
\min{f(p): p \in M}
]
其中约束集 (M) 具有黎曼结构，(f: M \to \mathbb{R}) 是凸函数。我们将对梯度法、次梯度法和近端点法进行渐近和迭代复杂度分析，在梯度法和次梯度法的分析中假设 (M) 的曲率有下界，在近端点法的分析中假设 (M) 是哈达玛流形。

2. 符号和基本结果

• 黎曼流形相关概念
  • 设 (M) 是有限维黎曼流形，(T_pM) 是 (M) 在 (p) 点的切平面，(\langle\cdot, \cdot\rangle) 是黎曼度量，对应的范数为 (|\cdot|)。
  • 用 (\ell(\gamma)) 表示分段光滑曲线 (\gamma: [a, b] \to M)