- 博客(5)
- 收藏
- 关注
原创 基于低秩与低维的稳健主成分分析
主成分分析,即通过一个投影矩阵将高维原始数据映射到低维子空间中,并使原始数据尽可能被解释。然而,在实际的数据处理中,原始数据往往存在噪声,这将影响投影矩阵的估计,因此,就有了稳健主成分分析(robust principal component analysis,RPCA)。在文章中,首先对基于低秩表示的RPCA进行说明,然后再探讨基于低维表示的RPCA,最后,我们简要介绍结合低维与低秩的RPCA方法。
2023-08-03 15:50:31
459
原创 lasso 的理论证明-lasso 预测误差界的证明
lasso 的理论证明在证明估计误差界后,我们将对预测误差界进行证明,这也是lasso理论性质的最后一个点,相关证明链接:约束lasso的估计误差界.拉格朗日lasso的估计误差界.lasso 预测误差界的证明这里,我们对拉格朗日形式lasso的预测误差界 ∥Xv∥2\|Xv\|^2∥Xv∥2 进行证明。定理1:假设 λ≥2∥XTw∥∞/N\lambda \geq 2\|X^Tw\|_{\infty}/Nλ≥2∥XTw∥∞/N, 其最优解 β^\widehat{\beta}β,如
2021-08-01 14:20:58
1093
原创 lasso 的理论证明-拉格朗日形式lasso的估计误差界
拉格朗日形式 lasso l2l_2l2 误差界的证明浏览本文需要预先查看: lasso 的理论证明-约束lasso的估计误差界.接下来将对拉格朗日形式的lasso的估计误差界以及lasso误差的锥形约束进行说明。定理2:对拉格朗日形式的lasso,假设 λ≥2∥XTw∥∞/N\lambda \geq 2\|X^Tw\|_{\infty}/Nλ≥2∥XTw∥∞/N, 其最优解 β^\widehat{\beta}β 满足:∥β^−β∗∥2≤3γkNNλ.\left\|\widehat{\beta
2021-07-30 11:12:35
1445
原创 lasso 的理论证明-约束lasso的估计误差界
lasso 的理论证明我们将陆续对lasso的oracle性质进行证明,本篇说明的是约束型lasso l2l_2l2 误差界的证明。这些证明来源于对教材或论文的归纳。考虑线性回归模型:y=Xβ∗+w.y=X\beta^{*}+w.y=Xβ∗+w.对以下两种形式的lasso进行讨论约束形式的lasso:y=Xβ∗+w,s.t.∥β∥1≤R.y=X\beta^{*}+w, s.t. \|\beta\|_{1} \leq R.y=Xβ∗+w,s.t.∥β∥1≤R.拉格朗日形式的lasso:1
2021-07-28 19:05:04
1619
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人