35、噪声数据下的算法性能与分析

噪声数据下的算法性能与分析

1. 理论证明与算法收敛性

1.1 函数性质与收敛证明

在相关理论中，对于 $\alpha \in (M_{\beta}^{-}, M_{\beta}^{+})$，$\frac{\partial \Phi_{\beta}(\alpha, \tau ‘)}{\partial \alpha}$ 随 $\alpha$ 增加而增大。根据方程 (14.45)，$W_{\beta}(\alpha, \tau ‘)$ 在该区间内随 $\alpha$ 减小。对于任意 $\alpha$ 和 $\tau < 1$，当 $\beta \to \infty$ 时，$W_{\beta}(\alpha, \tau) \to W^{ }(\alpha)$，其中 $W^{ }(\alpha) = \sum_{i = 1}^{m} \exp(-(\psi_{i}^{ } + \alpha z_{i})) z_{i}$，这是 AdaBoost 对应的函数。并且这种收敛在 $\tau \in [0, 1 - c]$ 上是一致的，即 $\sup_{0\leq \tau \leq 1 - c} | W_{\beta}(\alpha, \tau) - W^{ }(\alpha) | \to 0$。

从方程 (14.44) 的定义可知，当 $\beta \to \infty$ 时，$M_{\beta}^{-} \to -\infty$ 且 $M_{\beta}^{+} \to +\infty$。对于足够大的 $\beta$，$\alpha^{ } \in (M_{\beta}^{-}, M_{\beta}^{+})$。同时，$W^{