61、随机子模最大化：基于多项式估计器的方法

随机子模最大化：基于多项式估计器的方法

1. 背景与动机

随机子模最大化问题近年来备受关注，这类问题的目标通常表示为一个期望。在解决子模最大化问题时，有多种算法和方法。例如，连续贪心算法可以通过多线性松弛将离散问题提升到连续域，从而恢复 (1 - 1/e) 的近似比。而对于随机子模最大化问题，不同的研究者提出了不同的解决方案。

Karimi 等人使用凹松弛方法，能为子模覆盖函数类实现 (1 - 1/e) 的近似保证；Hassani 等人则为一般的随机子模问题提供投影梯度方法，实现 1/2 的近似保证；Mokhtari 等人提出随机条件梯度方法来解决随机子模优化的最小化和最大化问题，其最大化方法 Stochastic Continuous Greedy (SCG) 可看作连续贪心算法的随机变体，能为单调和子模函数实现紧密的 (1 - 1/e) 近似保证。

我们的工作基于 Özcan 等人的方法，他们研究了通过多项式估计器加速梯度计算的方法。他们表明，可写成解析函数和多线性函数组合的子模函数可以通过泰勒多项式任意好地近似，进而得到一种无需采样的多线性松弛近似方法。我们将此方法扩展到随机子模优化的背景下，并与 SCG 算法结合，以减少方差，但会引入一定的偏差。

2. 技术预备知识

2.1 子模性和拟阵

• 子模性 ：给定一个包含 n 个元素的基集 V = {1, …, n}，一个集合函数 f : 2^V → R+ 是子模的，当且仅当对于所有 A ⊆ B ⊆ V 和 e ∈ V，有 f(B ∪ {e}) - f(B) ≤ f(A ∪ {e}) - f(A)。如果对于每个 A