5、分布式优化算法：从线性收敛到异步广播

分布式优化算法：从线性收敛到异步广播

1. Push - DIGing算法的线性收敛性

1.1 引理与定理基础

在分布式优化领域，Push - DIGing算法是一种重要的算法。首先有引理表明，在一定假设条件下，对于所有的 (K = 0, 1, \cdots) 以及任意的 (0 < \lambda < 1)，有 (||z|| {\lambda,K} \leq \hat{L}(1 + \frac{1}{\lambda})||q|| {\lambda,K})。

1.2 主要定理

定理指出，在一系列假设条件下，设 (\alpha_{max} = \max_{i \in V}{\alpha_i})（(\alpha_{min} = \min_{i \in V}{\alpha_i})） 是不协调步长矩阵 (D) 中的最大（最小）正元素。当 (\alpha_{max}) 满足特定取值范围，且步长矩阵 (D) 的条件数 (k_D = \frac{\alpha_{max}}{\alpha_{min}}) 满足 (k_D < 1 + \frac{(\lambda B - \delta)(1 - ||J_R|| {max})}{4\sqrt{3\kappa}||S|| {max}||S^{-1}|| {max}||A|| {max}(BQ_1 + (\lambda B - \delta)) - (\lambda B - \delta)(1 - ||J_R||_{max})}) 时，由不协调步长的 Push - DIGing 算法生成的序列 (x{k}) 以全局线性速率 (O(\lambda^