MIT18.06 线性代数笔记 16 投影矩阵和最小二乘

本文介绍了线性代数中投影矩阵的计算公式P=A(ATA)^{-1}AT,并讨论了当b在矩阵A的列空间C(A)内或垂直于C(A)时的投影性质。进一步阐述了最小二乘问题,通过寻找超平面Xw使得误差平方和最小。当找不到超平面包含所有点时,寻找最小二乘解,即y在C(X)上的投影。文中还涉及了矩阵ATA可逆的条件及其在解决线性方程组中的应用。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

我们知道,投影矩阵是P=A(ATA)−1ATP=A(A^TA)^{-1}A^TP=A(ATA)1AT
bbbC(A)C(A)C(A)中, Pb=bPb=bPb=b, 因为bbb可以写成AAA各列的线性组合, 不妨令b=Axb=Axb=Ax, 则Pb=A[(ATA)−1ATA]x=Ax=bPb=A[(A^TA)^{-1}A^TA]x=Ax=bPb=A[(ATA)1ATA]x=Ax=b
bbb垂直于C(A)C(A)C(A)中,Pb=0Pb=0Pb=0, 因为b∈N(AT)b \in N(A^T)bN(AT), ATb=0A^Tb=0ATb=0
设误差向量eeebbb与投影到C(A)C(A)C(A)后得到的向量ppp的误差, b−p=e,b=p+eb-p=e, b=p+ebp=e,b=p+e, 由投影的几何含义可知, e⊥C(A)e \perp C(A)e

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值