83、计算复杂性中的关键理论与证明

计算复杂性中的关键理论与证明

在计算复杂性领域，有两个重要的研究方向值得深入探讨，分别是 Johnson - Lindenstrauss 引理的最优性证明以及多项式规模 AC0 电路的相关性界研究。

1. Johnson - Lindenstrauss 引理的最优性

Johnson - Lindenstrauss 引理在降维领域具有重要意义，它保证了在高维空间中的点集可以以较小的失真投影到低维空间中。这里我们主要关注该引理中行数的最优性证明。

设存在一个从 $R^d$ 到 $R^k$ 的线性变换分布 $A$，对于任意 $w \in S^{d - 1}$，有 $Pr_{S \sim A}[||Sw|^2 - 1| < \delta]$。通过平均论证可知，在 $A$ 的支撑集中必然存在一个线性变换 $S$，使得 $Pr_{w \in S^{d - 1}}[||Sw|^2 - 1| < \delta]$。但实际上，除非 $k$ 足够大，否则这种情况不会发生。

具体定理如下：
若 $S: R^d \to R^k$ 是一个线性变换，且 $d > 2k$，$\epsilon > 0$ 足够小，对于在 $S^{d - 1}$ 中随机选取的向量 $w$，有 $Pr[||Sw|^2 - 1| > \epsilon] \geq exp(-O(k\epsilon^2 + 1))$。

证明过程如下：
- 首先，我们可以假设 $S$ 是满射的，若不是，我们可以用 $S$ 的像来替换 $R^k$。设 $V = ker(S)$，$U$ 是 $V$ 在 $R^d$ 中的正交补。则 $dim(U) = k$，$dim(V) = d - k$。任意 $w \in R^d$ 可以唯一地表示为 $w_V + w_u$，其中 $w_V$ 和 $w_u$ 分别是 $w$ 在 $V$ 和 $U$ 中的分量。进一步，我们可以写成 $w_V = r_V\Omega_V$，$w_u = r_u\Omega_u$，其中 $r_V$，$r_u$ 是正实数，$\Omega_V$ 和 $\Omega_u$ 分别是 $V$ 和 $U$ 中的单位向量。
- 令 $s_V = r_V^2$，$s_u = r_u^2$。我们可以用 $(s_V, \Omega_V, s_u, \Omega_u) \in [0, 1] \times S^{d - k - 1} \times [0, 1] \times S^{k - 1}$ 来参数化单位球面，使得 $s_V + s_u = 1$。球面上的均匀测度可以表示为 $f(s_u)ds_ud\Omega_Vd\Omega_u$，其中 $f(s_u) = C_f \cdot (1 - s_u)^{(d - k - 2)/2}s_u^{(k - 2)/2}$，$C_f$ 是归一化常数。
- 证明的基本思路是先对 $\Omega_V$，$\Omega_u$ 进行条件化。令 $C = |S\Omega_u|^2$，若 $w$ 由 $(s_V, \Omega_V, s_u, \Omega_u)$ 参数化，则 $|Sw|^2 = C s_u$。随机选择 $w$ 时，$s = s_u$ 满足分布 $s^{(k - 2)/2}(1 - s)^{(d - k - 2)/2}/\beta((k - 2)/2, (d - k - 2)/2) ds = f(s)ds$ 在 $[0, 1]$ 上。我们需要证明对于任意 $c = 1/C$，$s$ 不在 $[(1 - \epsilon)c, (1 + \epsilon)c]$ 中的概率为 $exp(-O(\epsilon^2k))$。

下面用表格总结证明步骤：
|步骤|操作|
|----|----|
|1|假设 $S$ 是满射，确定 $V$ 和 $U$ 的维度及 $w$ 的分解形式|
|2|确定单位球面的参数化及均匀测度的表达式|
|3|对 $\Omega_V$，$\Omega_u$ 进行条件化，确定 $|Sw|^2$ 的表达式|
|4|证明 $s$ 不在特定区间的概率满足要求|

2. 多项式规模 AC0 电路的相关性界

平均情况电路下界是计算复杂性中极具挑战性的问题，目前主要在具有 AND、OR、NOT 门的有界深度电路（即 AC0 电路）中取得了一些成果。研究人员尝试通过在 AC0 电路中添加一些更通用的门来拓展研究。

以往的研究大多针对准多项式规模的 AC0 电路，添加对数多项式数量的门，并得到逆准多项式的相关性界。而这里我们聚焦于多项式规模的 AC0 电路，发现这种限制反而使我们能够证明更强的结果。

具体成果如下：
- 具有 $n^{1 - o(1)}$ 个任意对称门的多项式规模 AC0 电路与一个明确给定的函数具有指数小的相关性。
- 具有 $n^{1/2 - o(1)}$ 个阈值门的多项式规模 AC0 电路与同一明确函数具有指数小的相关性。
- 具有 $n^{1 - o(1)}$ 个模 $s$ 计数门的多项式规模 AC0 电路与模 $q$ 的位和（其中 $s$，$q$ 互质）具有指数小的相关性。

这些结果意味着可以构造一个具有多项式拉伸和指数小误差的伪随机生成器，用于上述模型。

下面是证明所基于的主要概念和工具：
- 相关性定义 ：给定分布 $D$ 以及两个布尔函数 $f$，$g$，$f$ 和 $g$ 在 $D$ 下的相关性定义为 $Corr_D(f, g) = |E_x[(-1)^{f(x)} \cdot (-1)^{g(x)}]|$。
- 树限制 ：对 $n$ 个布尔变量的树限制是一个决策树 $T$，每个叶子对应一个子立方体，这些子立方体划分了 ${0, 1}^n$ 空间。
- 门类型 ：使用了多种门类型的标准符号，如 SYM 门计算对称函数，THR 门计算线性阈值函数，MODs 门计算模 $s$ 计数函数等。

下面用 mermaid 流程图展示研究的整体思路：

graph LR
    A[研究多项式规模 AC0 电路] --> B[添加通用门]
    B --> C[证明相关性界]
    C --> D[构造伪随机生成器]

3. 稀疏多项式的相关性界示例

作为一个示例，我们研究稀疏多项式与模 3 的位和的相关性界。这是一个重要的开放问题，目前对于超过对数度的多元多项式，很难找到与之具有小相关性的显式函数。

我们证明了稀疏多项式（即仅包含多项式数量单项式的多项式）与模 3 的位和具有指数小的相关性。具体定理如下：
设 $p(x)$ 是一个 $n$ 元 $n^{o(log n)}$ 稀疏的 $F_2$ 上的多项式，对于任意 $\alpha \neq \beta \in {0, 1, 2}$，有 $|Pr_x[p(x) = 0 | \sum_{i = 1}^n x_i \equiv \alpha (mod 3)] - Pr_x[p(x) = 0 | \sum_{i = 1}^n x_i \equiv \beta (mod 3)]| \leq exp(-n^{1 - o(1)})$。

证明思路是通过限制将稀疏多项式转化为低度数多项式，然后应用低度数多项式的相关性界。具体步骤如下：
- 使用树限制 ：存在一个深度为 $n/2$ 的树限制 $T$，使得 $Pr_{\ell \sim \mu_T}[deg(p_{\ell}) > 10 log s] \leq exp(-\Omega(n))$。
- 进一步限制变量 ：找到一个相对较大的集合 $R$，使得 $R$ 与所有单项式的交集较小，从而可以使用低度数多项式的相关性界来界定 $p(x)$ 与模 3 的位和的相关性。

下面用列表总结证明步骤：
1. 利用树限制将稀疏多项式转化为低度数多项式。
2. 找到合适的集合 $R$，满足与所有单项式的交集条件。
3. 应用低度数多项式的相关性界得出结论。

通过以上研究，我们在 Johnson - Lindenstrauss 引理的最优性以及多项式规模 AC0 电路的相关性界方面取得了重要成果，为计算复杂性领域的进一步研究提供了有力的理论支持。

计算复杂性中的关键理论与证明（续）

4. 树限制的详细构造与分析

在证明稀疏多项式相关性界时，树限制起到了关键作用。下面详细介绍树限制的构造过程。

我们要构造一个序列的树 $T_0, \ldots, T_{n/2}$，其中 $T_0$ 只是一个根节点，$T_{i + 1}$ 是 $T_i$ 的扩展。具体步骤如下：
1. 设 $t = 10 \log s$，$B$ 是 $p(x)$ 中度数大于 $t$ 的 “坏” 单项式集合，$|B| \leq s$。
2. 对于 $T_i$ 的叶子节点 $\ell$，设 $B_{\ell}$ 是在 $\ell$ 所诱导的部分赋值下仍不为零的 $B$ 中的单项式集合。
3. 如果 $|B_{\ell}| = 0$，则 $\ell$ 在 $T_{i + 1}$ 中保持为叶子节点；否则，我们进行扩展。由于 $B_{\ell}$ 中的所有单项式至少有 $t$ 个变量，所以存在某个变量 $x_j$ 出现在至少 $(t/n) \cdot |B_{\ell}|$ 个单项式中。我们将 $\ell$ 扩展为对 $x_j$ 的两种可能赋值，得到新的叶子节点 $\ell’$ 和 $\ell’‘$。
4. 显然，$|B_{\ell’}|, |B_{\ell’‘}| \leq |B_{\ell}|$，且每个包含 $x_j$ 的单项式恰好属于 $B_{\ell’}$ 或 $B_{\ell’‘}$ 中的一个。因此，$\min(|B_{\ell’}|, |B_{\ell’‘}|) \leq (1 - t/2n) \cdot |B_{\ell}|$。

最终得到的树 $T = T_{n/2}$，我们需要证明随机叶子节点 $\ell$ 满足 $|B_{\ell}| > 0$ 的概率是指数小的。设 $v_0, v_1, \ldots, v_r = \ell$ 是从根节点 $v_0$ 到深度为 $r \leq n/2$ 的叶子节点 $v_{\ell}$ 的随机游走。我们定义指示变量 $X_0, \ldots, X_{r - 1}$ 如下：设 $u_i$ 是 $v_i$ 的另一个子节点（即不是 $v_{i + 1}$），则 $X_i = 1$ 当且仅当 $|B_{v_{i + 1}}| \leq |B_{u_i}|$。

这些指示变量 $X_0, \ldots, X_{r - 1}$ 在给定 $r$ 的情况下是独立的，且 $Pr[X_i = 1] \geq 1/2$。如果至少有 $q$ 个变量 $X_0, \ldots, X_{r - 1}$ 为 1，则 $|B_{\ell}| \leq (1 - t/2n)^q |B| \leq exp(-tq/2n) \cdot s$。当 $q > (2n/t) \cdot \log s = n/5$ 时，$|B_{\ell}| < 1$。所以，深度为 $n/2$ 的叶子节点 $\ell$ 满足 $|B_{\ell}| > 0$ 的概率可以被界定为 $n/2$ 个伯努利变量（成功概率 $\geq 1/2$）中 1 的个数小于等于 $n/5$ 的概率，即 $exp(-\Omega(n))$。

用表格总结树限制构造步骤：
|步骤|操作|
|----|----|
|1|初始化 $T_0$ 为根节点，确定 $t$ 和 $B$|
|2|对于 $T_i$ 的叶子节点 $\ell$，确定 $B_{\ell}$|
|3|根据 $|B_{\ell}|$ 的值决定是否扩展 $\ell$|
|4|扩展 $\ell$ 并更新 $B_{\ell’}$ 和 $B_{\ell’‘}$|
|5|证明随机叶子节点满足 $|B_{\ell}| > 0$ 的概率是指数小的|

5. 寻找合适子集 $R$ 的方法

在将稀疏多项式的度数进一步降低时，需要找到一个合适的子集 $R$，使得 $|R \cap S_i| \leq d$ 对于所有 $i = 1, \ldots, s$ 成立。这里 $S_1, \ldots, S_s$ 是 $p(x)$ 中单项式的变量集合。

设 $s = n^c$，我们要选择一个合适的 $d > 2c$。可以通过随机选择的方法来找到满足条件的 $R$。虽然随机选择的 $R$ 满足要求的概率可能比我们期望的指数小相关性弱，但只要能证明存在这样的 $R$ 即可。

具体来说，我们可以按照以下步骤进行：
1. 随机选择一个子集 $R \subset [n]$，其大小为 $|R| = n^{1 - 2c/d - o(1)}$。
2. 检查 $|R \cap S_i|$ 是否小于等于 $d$ 对于所有 $i = 1, \ldots, s$ 成立。如果不成立，则重新选择 $R$。

虽然这个过程可能需要多次尝试，但由于存在满足条件的 $R$，最终可以找到合适的子集。

下面用 mermaid 流程图展示寻找 $R$ 的过程：

graph LR
    A[开始] --> B[随机选择子集 R]
    B --> C[检查 |R ∩ Si| ≤ d 对所有 i]
    C -->|是| D[结束]
    C -->|否| B

6. 多项式规模 AC0 电路结果的意义与应用

多项式规模 AC0 电路与各种通用门结合的相关性界结果具有重要的理论和实际意义。

从理论角度来看，这些结果为平均情况电路下界的研究提供了新的思路和方法。以往对于准多项式规模 AC0 电路添加少量通用门的研究取得的成果有限，而我们通过限制电路为多项式规模，能够添加更多的通用门并得到更强的相关性界，这表明在某些情况下，对电路规模的限制可能有助于得到更深刻的结论。

从实际应用角度来看，这些结果可以用于构造伪随机生成器。利用 Nisan - Wigderson 生成器，我们可以构造一个具有多项式拉伸和指数小误差的伪随机生成器，用于欺骗上述模型。这在密码学、随机算法等领域具有潜在的应用价值。

下面用列表总结多项式规模 AC0 电路结果的意义：
1. 为平均情况电路下界研究提供新方法。
2. 表明对电路规模的限制可能带来更强的结论。
3. 可用于构造具有实际应用价值的伪随机生成器。

7. 总结与展望

通过对 Johnson - Lindenstrauss 引理最优性的证明以及多项式规模 AC0 电路相关性界的研究，我们在计算复杂性领域取得了重要的进展。

在 Johnson - Lindenstrauss 引理方面，我们证明了行数的最优性，明确了在何种条件下线性变换能够满足特定的失真要求。在多项式规模 AC0 电路方面，我们通过添加不同类型的通用门，得到了指数小的相关性界，并展示了如何利用这些结果构造伪随机生成器。

未来的研究可以从以下几个方向展开：
1. 进一步探索在其他类型的电路模型中添加通用门的情况，看是否能得到类似的强相关性界。
2. 研究如何将这些理论结果更好地应用到实际的算法设计和密码学中。
3. 尝试解决一些尚未解决的开放问题，如对于更高度数的多项式，寻找具有小相关性的显式函数。

通过不断的研究和探索，我们有望在计算复杂性领域取得更多的突破，为计算机科学的发展提供更坚实的理论基础。