First singular vector as a robust representative

本文探讨了方阵特征向量对矩阵扰动的敏感性,通过数学推导得出特征向量的稳定性系数,并解释了为何第一个奇异分量通常是最稳定的。此外,还讨论了如何利用这一特性提高数据表示的鲁棒性。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

引理:方阵C的[λi,vi]引理:方阵C的[\lambda_i,v_i]C[λi,vi]
∣∣∂vi∣∣2≤Σi≠j1(λi−λj)2∣∣∂C∣∣F||\partial v_i||_2\leq \sqrt{\Sigma _{i\neq j}\frac{1}{(\lambda_i -\lambda_j)^2}}||\partial C||_Fvi2Σi=j(λiλj)21CF

F范数:对应元素的平方和再开方,偏导表示对任易标量变量进行偏导数\tiny F范数:对应元素的平方和再开方,偏导表示对任易标量变量进行偏导数F,

对C中的每一个项进行求导,将得到在C的perturbations下第i个谱元素vi的sensitivity。其与λi与λj的距离成反比\qquad 对C中的每一个项进行求导,将得到在C的perturbations下第i个谱元素v_i的sensitivity。\\ 其与\lambda_i 与\lambda_j的距离成反比CCperturbationsivisensitivityλiλj
因此定义了对方阵特征向量visensitivity系数si≜Σi≠j1(λi−λj)2因此定义了对方阵特征向量v_isensitivity系数s_i\triangleq \sqrt{\Sigma _{i\neq j}\frac{1}{(\lambda_i -\lambda_j)^2}}visensitivitysiΣi=j(λiλj)21
一般来说,第一个奇异分量v1是对扰动最不敏感的方向。一般来说,第一个奇异分量v_1是对扰动最不敏感的方向。v1
这是因为,在许多情况下,连续特征值之间的间距正在减小(see[3]andreferencestherein)这是因为,在许多情况下,连续特征值之间的间距正在减小(see [3] and references therein)see[3]andreferencestherein
s1<si,∀i≤2s1 < si, \forall i\leq 2s1<si,i2
并且,我们可以通过将ID特征向量嵌入到一维子空间的并集上,进一步提高鲁棒性并且,我们可以通过将ID特征向量嵌入到一维子空间的并集上,进一步提高鲁棒性ID
因为奇异值表示沿其相应奇异向量集中的能量量,若每类数据点的几乎所有能量都集中在其对应的第一奇异向量上we will have large λ1 and small λi,i≥2因为奇异值表示沿其相应奇异向量集中的能量量,\\ 若每类数据点的几乎所有能量都集中在其对应的第一奇异向量上\\ we \ will \ have\ large \ \lambda_1 \ and \ small \ \lambda_i, i\geq2沿,we will have large λ1 and small λi,i2
因此,如果属于同一类的特征空间中的向量位于一维子空间上,我们可以使用Xl的第一个奇异向量作为特征空间中类子空间的鲁棒代表,并拒绝异常值。因此,如果属于同一类的特征空间中的向量位于一维子空间上,\\ 我们可以使用X_l的第一个奇异向量作为特征空间中类子空间的鲁棒代表,并拒绝异常值。,使Xl

[3] Daguang Chen, Tao Zheng, and Hongcang Yang. Estimates
of the gaps between consecutive eigenvalues of Laplacian.
Pacific Journal of Mathematics, 2016. 3

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值