6、矩形并集学习与半空间精确学习研究

矩形并集学习与半空间精确学习研究

1. 矩形并集学习相关内容

在矩形并集学习中，涉及到多种不同情况的学习研究，包括学习多个低维矩形的多数、学习较少高维矩形的并集以及学习不相交矩形并集的多数等。

1.1 学习多个低维矩形的多数

对于可表示为布尔文字的 s - 多数 r - 与（s - Majority of r - And）的函数 (f : {−1, 1}^n → {−1, 1})，有如下结论：
- 引理 10 ：该函数也可表示为布尔文字的 (O(ns^2)) - 多数 r - 奇偶性（O(ns²) - Majority of r - Parity）。证明过程如下：
- 设 (f) 是 (h_1, \cdots, h_s) 的多数，其中每个 (h_i) 是扇入为 (r) 的与门。根据引理 2，对于任何分布 (D)，存在某个与函数 (h_j) 使得 (|E_D[f h_j]| \geq 1/s)。
- 由于任何与函数的 (L_1) - 范数至多为 4，即 (L_1(h_j) \leq 4)。由引理 7 的证明可知，必然存在某个奇偶函数 (\chi_a) 使得 (|E_D[f \chi_a]| \geq 1/4s)，且 (\chi_a) 中的变量是 (h_j) 中变量的子集，所以 (\chi_a) 是至多 (r) 个文字的奇偶性。
- 应用定理 4 中陈述的提升算法，在提升的每个阶段选择扇入至多为 (r) 的奇偶性作为弱假设，且每个弱假设在每个阶段的优势至少为 (1/4s)。若提升到精度 (\epsilon = \frac{1}{2n + 1})，则最终假设相对于 (f) 的误差为零，并且是 (O(\lo