24、顺序揭示加密与隐私学习的难度

顺序揭示加密与隐私学习的难度

1. 示例重识别方案与隐私学习的限制

在某些情况下，我们可以放宽完整性条件，使其仅在对学习器 (L) 的输出有特定限制时成立，例如 (L) 是一个合适的学习器或表示学习器。此时，我们称 ((Genex, Traceex)) 是用于（适当、表示）学习概念类 (C) 的示例重识别方案。

有如下定理：设 ((Genex, Traceex)) 是概念类 (C) 的一个 ((α, ξ)) - 示例重识别方案。那么对于每个 (β > 0) 和多项式 (n(k))，当
(δ < \left(\frac{1 - β - ξ}{n}\right) - e^{εξ})
时，不存在使用 (n) 个样本的高效 ((ε, δ)) - 差分隐私 ((α, β)) - PAC 学习器来学习 (C)。

在典型的参数设置中，我们取 (α, β, ε = O(1)) 且 (δ, ξ = o(1/n))，在这种情况下，对于足够大的 (n)，上述不等式将成立。

证明过程：假设存在一个使用 (n) 个样本的计算高效的 ((ε, δ)) - 差分隐私 ((α, β)) - PAC 学习器 (L) 来学习 (C)。那么存在一个 (i ∈ [n])，使得 (Pr[Traceex(L(S)) = i] ≥ (1 - β - ξ)/n)。然而，由于 (L) 是差分隐私的，
(Pr[Traceex(L(S - i)) = i] ≥ e^{-ε}\left(\frac{1 - β - ξ}{n} - δ\right) > ξ(n))
这与 ((Genex, Traceex)) 的可靠性相矛盾。

2. 顺序揭