67、《Frieze - Kannan正则引理的确定性算法》解读

《Frieze - Kannan正则引理的确定性算法》解读

1. 主要结果概述

给定 $\varepsilon > 0$ 和一个具有 $n$ 个顶点的图 $G = (V, E)$，可以在确定性时间 $O(\frac{1}{\varepsilon^6} n^{\omega} \log \log n)$ 内找到图 $G$ 的一个 $\varepsilon$-FK 正则划分，其阶数至多为 $2^{108 / \varepsilon^7}$。

2. 论文结构

• 引入谱条件 ：引入一个谱条件来刻画 $\varepsilon$-FK 正则划分，该条件能快速区分 $\varepsilon$-FK 正则划分和非 $\varepsilon^3 / 1000$-FK 正则划分。
• 计算第一特征值 ：展示如何在确定性时间 $\tilde{O}(n^{\omega})$ 内近似计算矩阵的第一特征值，使用了随机幂迭代方法的确定性变体。
• 总结与展望 ：包含一些总结性评论和开放性问题。

3. FK 正则性的谱条件

3.1 第一特征值的定义

对于可对角化矩阵 $M$，第一特征值 $\lambda_1(M)$ 的绝对值定义为：$|\lambda_1(M)| = \max_{|x| = |y| = 1} x^T My$。如果一个算法找到两个单位向量 $x, y$ 使得 $x^T My \geq (1 - \delta)|\lambda_1(M)|$，则称该算法计算了矩阵 $M$ 第一特征值的 $\delta$-近似值。

3.2 定理 2

假设有一个 $S(n)$ 时间的算法用于计算对称 $n \times n$ 矩阵第一特征值的 $1/2$-近似值，那么存在一个 $O(n^2 + S(n))$ 时间的算法，给定 $\varepsilon > 0$ 和 $n$ 顶点图 $G = (V, E)$ 的顶点划分 $P$，该算法能完成以下操作之一：
1. 正确判定 $P$ 是 $\varepsilon$-FK 正则的。
2. 找出集合 $S, T$，证明 $P$ 不是 $\varepsilon^3 / 1000$-FK 正则的。

算法步骤如下：
1. 计算矩阵 $\Delta = A - D$，时间复杂度为 $O(n^2)$。
2. 计算单位向量 $x, y$ 使得 $x^T \Delta y \geq \frac{1}{2}|\lambda_1(\Delta)|$，时间复杂度为 $S(n)$。
3. 如果 $x^T \Delta y \leq \frac{\varepsilon n}{2}$，则判定 $P$ 是 $\varepsilon$-FK 正则的；否则，判定 $P$ 不是 $\varepsilon^3 / 1000$-FK 正则的，并使用 $O(n^2)$ 时间的算法找出集合 $S, T$ 来证明这一点。

算法正确性分析：
- 如果 $x^T \Delta y \leq \frac{\varepsilon n}{2}$，由于计算了 $|\lambda_1(\Delta)|$ 的 $1/2$-近似值，所以 $|\lambda_1(\Delta)| \leq \varepsilon n$，根据引理 2，$P$ 是 $\varepsilon$-FK 正则的。
- 如果 $x^T \Delta y > \frac{\varepsilon n}{2}$，根据引理 4，能找到集合 $S, T$ 证明 $P$ 不是 $\varepsilon^3 / (108 \cdot 8) \geq \varepsilon^3 / 1000$-FK 正则的。

3.3 相关引理

• 引理 2 ：如果 $|\lambda_1(\Delta)| \leq \gamma n$，则 $P$ 是 $\gamma$-FK 正则的。
• 引理 3 ：给定两个向量 $p, q \in [-1, 1]^n$ 满足 $p^T \Delta q > 0$，可以在确定性时间 $O(n^2)$ 内找到集合 $S, T \subseteq [n]$ 使得 $|\Delta(S, T)| \geq \frac{1}{4} p^T \Delta q$。
• 引理 4 ：如果 $|\lambda_1(\Delta)| > \gamma n$，则 $P$ 不是 $\gamma^3 / 108$-FK 正则的。并且，给定单位向量 $x, y$ 满足 $x^T \Delta y > \gamma n$，可以在确定性时间 $O(n^2)$ 内找到集合 $S, T$ 来证明这一点。

4. 确定性地寻找第一特征值

4.1 定理 3

给定一个 $n \times n$ 对称矩阵 $H$ 和参数 $\delta > 0$，可以在确定性时间 $O(n^{\omega} \log (\frac{1}{\delta} \log (\frac{n}{\delta})))$ 内找到单位向量 $x, y$ 使得 $x^T Hy \geq (1 - \delta)|\lambda_1(H)|$。

4.2 定理 4

给定一个 $n \times n$ 半正定矩阵 $M$ 和参数 $\delta > 0$，存在一个算法，运行时间为 $O(n^{\omega} \log (\frac{1}{\delta} \log (\frac{n}{\delta})))$，输出一个向量 $b$ 使得 $\frac{b^T Mb}{b^T b} \geq (1 - \delta) \lambda_1(M)$。

证明思路：
1. 由于 $|\lambda_1(H)| = \sqrt{\lambda_1(H^2)}$，且 $H^2$ 是半正定矩阵，使用定理 4 计算向量 $b$ 使得 $\frac{b^T Mb}{b^T b} = \hat{\lambda}_1 \geq (1 - \delta) \lambda_1(M)$。
2. 通过设置 $x = \frac{Hb}{\sqrt{\hat{\lambda}_1 |b|}}$ 和 $y = \frac{b}{|b|}$，得到单位向量 $x$ 和 $y$ 满足 $x^T Hy \geq (1 - \delta)|\lambda_1(H)|$。

4.3 幂迭代方法

使用幂迭代方法来近似计算半正定矩阵 $M$ 的第一特征值。具体步骤如下：
1. 考虑 $n$ 个标准基向量 $e_i$，$i = 1, \ldots, n$。
2. 对每个基向量 $e_i$ 进行幂迭代，即计算 $M^s e_i$，其中 $s = O(\frac{1}{\delta} \log (\frac{n}{\delta}))$。
3. 计算每个输出向量 $x = M^s e_i$ 的 $\frac{x^T Mx}{x^T x}$，选择最大值对应的向量。

运行时间分析：最耗时的步骤是计算 $M$ 的 $s$ 次幂，使用重复平方的方法可以在 $2 \log s$ 步内完成，因此整个算法的运行时间为 $O(n^{\omega} \log (\frac{1}{\delta} \log (\frac{n}{\delta})))$。

5. 流程图

graph TD;
    A[输入图 G 和划分 P] --> B[计算矩阵 Δ = A - D];
    B --> C[计算单位向量 x, y 使得 x^T Δy ≥ 1/2|λ1(Δ)|];
    C --> D{x^T Δy ≤ εn/2?};
    D -- 是 --> E[判定 P 是 ε-FK 正则的];
    D -- 否 --> F[判定 P 不是 ε^3/1000-FK 正则的];
    F --> G[找出集合 S, T 证明 P 不是 ε^3/1000-FK 正则的];

6. 表格总结

定理	描述	时间复杂度
定理 1	找到图 $G$ 的 $\varepsilon$-FK 正则划分	$O(\frac{1}{\varepsilon^6} n^{\omega} \log \log n)$
定理 2	判定划分 $P$ 是否为 $\varepsilon$-FK 正则	$O(n^2 + S(n))$
定理 3	近似计算对称矩阵 $H$ 的第一特征值	$O(n^{\omega} \log (\frac{1}{\delta} \log (\frac{n}{\delta})))$
定理 4	近似计算半正定矩阵 $M$ 的第一特征值	$O(n^{\omega} \log (\frac{1}{\delta} \log (\frac{n}{\delta})))$

《Frieze - Kannan正则引理的确定性算法》解读

7. 从定理 3 到推论 1

将定理 3 中的 $H$ 设为 $\Delta$，$\delta$ 设为 $1/2$，结合定理 2 可以得到推论 1。

推论 1 ：存在一个 $O(n^{\omega} \log \log n)$ 时间的算法，给定 $\varepsilon > 0$、$n$ 顶点图 $G = (V, E)$ 和顶点划分 $P$，该算法能完成以下操作之一：
1. 正确判定 $P$ 是 $\varepsilon$-FK 正则的。
2. 找出集合 $S, T$，证明 $P$ 不是 $\varepsilon^3 / 1000$-FK 正则的。

8. 开放性问题与展望

• 设计 $O(n^2)$ 时间的确定性算法 ：目前已经设计出了 $\tilde{O}(n^{\omega})$ 时间的确定性算法来构造图的 $\varepsilon$-FK 正则划分。探索是否可以设计出 $O(n^2)$ 时间的确定性算法是一个有趣的问题。已知可以在确定性时间 $O(n^2)$ 内构造图的 $\varepsilon$-正则划分（Szemerédi 意义下），该算法依赖于使用共度条件对 $\varepsilon$-正则性进行组合刻画。这种方法可能也适用于 $\varepsilon$-FK 正则性，尽管在这种情况下共度条件可能更复杂。
• 改进第一特征值计算的运行时间 ：使用了幂迭代方法的变体得到了 $\tilde{O}(n^{\omega})$ 时间的算法来近似计算对称矩阵的第一特征值。考虑是否可以将运行时间改进到 $O(n^2)$。一种可能的方法是证明对于一个 $n×n$ 半正定矩阵 $M$，可以在 $O(n^2)$ 时间内找到一组 $n^{0.1}$ 个单位向量，使得该集合中的某个向量 $v$ 与 $M$ 的第一特征向量的内积至少为 $1 / poly(n)$。如果可以做到这一点，那么可以用 Coppersmith 的算法（该算法能在 $\tilde{O}(n^2)$ 时间内将一个 $n×n$ 矩阵与一个 $n×n^{0.1}$ 矩阵相乘）替换算法中使用的方阵快速乘法算法，修改后的算法将在 $\tilde{O}(n^2)$ 时间内运行。
• 近似第一特征值到加法误差 ：在当前问题中，只需要将第一特征值近似到 $\delta n$ 的加法误差。因此，另一种获得 $\tilde{O}(n^2)$ 时间的 $\varepsilon$-FK 正则性算法的方法是证明可以在 $\tilde{O}(n^2)$ 时间内将第一特征值近似到 $\delta n$ 的加法误差。设计这样的 $\tilde{O}(n^2)$ 算法可能比设计前面提到的乘法近似算法更容易。

9. 幂迭代方法流程图

graph TD;
    A[输入半正定矩阵 M 和参数 δ] --> B[考虑 n 个标准基向量 e_i];
    B --> C[计算 M 的 s 次幂 N = M^s];
    C --> D[对每个 e_i 计算 x = M^s e_i];
    D --> E[计算每个 x 的 (x^T Mx)/(x^T x)];
    E --> F[选择最大值对应的向量];
    F --> G[输出近似第一特征值和对应向量];

10. 开放性问题总结表格

问题	描述	可能的解决思路
设计 $O(n^2)$ 时间的确定性算法	为图的 $\varepsilon$-FK 正则划分设计 $O(n^2)$ 时间的确定性算法	借鉴 Szemerédi 意义下 $\varepsilon$-正则划分的组合刻画方法
改进第一特征值计算的运行时间	将对称矩阵第一特征值计算的运行时间改进到 $O(n^2)$	找到一组特定单位向量，用 Coppersmith 算法替换方阵乘法算法
近似第一特征值到加法误差	在 $\tilde{O}(n^2)$ 时间内将第一特征值近似到 $\delta n$ 的加法误差	探索专门的近似算法

综上所述，本文围绕图的 $\varepsilon$-FK 正则划分展开，介绍了相关的谱条件、第一特征值计算方法以及确定性算法，并提出了一些有待解决的开放性问题，为后续的研究提供了方向。