1 总体的kkk-因子模型
1.1 模型设定
x∼(μ,Σ)x\sim(\mu,\Sigma)x∼(μ,Σ),rank(Σ)=r\text{rank}(\Sigma)=rrank(Σ)=r,固定k<rk\lt rk<r,则kkk因子模型的设定为
x=Af+μ+ϵ x=Af+\mu+\epsilon x=Af+μ+ϵ
其中fff为kkk维随机向量,称为共同因子(common factor),AAA为d×kd\times kd×k的线性变换,称为因子载荷(factor loading)。
一般会做出这些假设:f∼(0,Ik)f\sim(0,I_k)f∼(0,Ik),ϵ∼(0,Ψ)\epsilon\sim(0,\Psi)ϵ∼(0,Ψ)(其中Ψ\PsiΨ为对角矩阵),Cov(f,ϵ)=0k×d\text{Cov}(f,\epsilon)=0_{k\times d}Cov(f,ϵ)=0k×d。
有的文献中会假设Var(f)=Φ\text{Var}(f)=\PhiVar(f)=Φ,Φ\PhiΦ为对角矩阵,在这里我们假设它是球形的。在我们的假设下,我们有
Σ=AA′+Ψ \Sigma=AA'+\Psi Σ=AA′+Ψ
我们可以看Σ\SigmaΣ和AA′AA'AA′的各元素的接近程度,定义AA′AA'AA′的对角线元素τjj=∑l=1kajlajl\tau_{jj}=\sum_{l=1}^{k} a_{jl} a_{jl}τjj=∑l=1kajlajl为第jjj个communality(共同性),它满足σj2=σjj=τjj+ψj\sigma^2_j=\sigma_{jj}=\tau_{jj}+\psi_jσj2=σjj=τjj+