20、高维稀疏模型与基于秩的逻辑回归方法解析

高维稀疏模型与基于秩的逻辑回归方法解析

1. 高维稀疏模型中岭回归估计量的渐近性质

在高维稀疏回归模型里，定理10.1及其推论对于确立岭回归估计量 $\hat{\beta} {ridgeR}^{\mathcal{S}_1}(\gamma_n)$ 和 $\hat{\beta} {ridgeR}^{\mathcal{S}_2}(\gamma_n)$ 的效率十分关键。

对于一个满足特定信号强度条件（A(i) - A(iii) 且 0 < $\tau$ < 1/2）的稀疏模型，若以概率1获得预选择模型 $\mathcal{S} 1 \subset \hat{\mathcal{S}}_1 \subset (\mathcal{S}_1 \cup \mathcal{S}_2)$，并按定理10.1选取 $\gamma_n$（其中 $\alpha$ < {($\eta - \gamma - \tau$)/3, 1/4 - $\tau$/2}），则岭R估计量具有如下渐近正态性：
$\sqrt{n}(\hat{\beta} {ridgeR}^{\mathcal{S} c^3}(\gamma_n) - \beta^* {\mathcal{S} c^3}) \stackrel{\mathcal{D}}{\to} \mathcal{N} {p_{1n}+p_{2n}}(0, \eta^2C^{-1})$

证明过程中，在 $\beta^ {\mathcal{S}_c^3} = 0$ 的条件下，我们得到：
$\sqrt{n}(\hat{\beta} {ri