线性代数笔记2:基本子空间的正交性及性质

重温线性代数(3)——正交、投影 线性代数是数学中的基础,也是十分重要的数学工具。在接触机器学习之后,我逐渐认识到了线性代数的重要性,矩阵运算,优化求解,都离不开线性代数的知识。同时,我也发现了自己数学基础的严重不足,急需好好重学一遍线性代数,为之后的学习打好基础。因此,“重温线性代数”这个系列就诞生了。或许大家会觉得这个系列的内容稍微基础了点,但学习就是如此,一遍又一遍,脚踏实地,温故知新,每次学习都会有新的收获。     阅读详情


基本子空间中有着更加特殊和精确的关系,由此可以引出向量空间的正交性及投影等问题。

正交性及正交补

定义:设 S S 和T是 Rn R n 的两个子空间(subspace),如果对于 ∀V∈S,w∈T,vTw=0 ∀ V ∈ S , w ∈ T , v T w = 0 ,则 S S 垂直于T(S is perpendicular to T),并且,这个定义是对称的,即 S S 垂直于T<=> T T 垂直于S。记做 S⊥T S ⊥ T 。也可以说 S S 和T是正交的(S and T are orthogonal)。

几个常见结论

  1. 设 A=B1B2 A = B 1 B 2 ,其中 B1 B 1 是 n×r n × r 矩阵, B2 B 2 是 r×n r × n 矩阵,后两矩阵秩都为 r r ,则A是一个 n×n矩阵,且r(A)=r n × n 矩 阵 , 且 r ( A ) = r 。

    A A 的每一列是B1的列向量的线性组合,因此 C(A)⊂C(B1) C ( A ) ⊂ C ( B 1 ) 。
    A A 的每一列是B2的行向量的线性组合,因此 C(AT)⊂C(BT2) C ( A T ) ⊂ C ( B 2 T ) 。
    B1 B 1 是列满秩,则存在可逆 n×n n × n 矩阵 E1 E 1 , E1B1=(Ir 0)T E 1 B 1 = ( I r   0 ) T 。
    B2 B 2 是行满秩,则存在可逆 n×n n × n 矩阵 E2 E 2 , B2E2=(Ir 0) B 2 E 2 = ( I r   0 ) 。
    C(A)=C(AE2)=C(B1(Ir 0))=C(B1) C ( A ) = C ( A E 2 ) = C ( B 1 ( I r   0 ) ) = C ( B 1 ) 。因此, dimC(A)=dimC(B1) d i m C ( A ) = d i m C ( B 1 ) ,即 r(A)=r(B1)=r r ( A ) = r ( B 1 ) = r 。

  2. 若 A A 的列向量线性无关,则ATA为可逆方阵。

    A A 列满秩 => Ax=0只有零解 => ATAx=0 A T A x = 0 只有零解 => ATA A T A 列满秩。
    又因为 ATA A T A 是 n×n n × n 方阵,因此为可逆矩阵。

  3. 若 S∩T≠{0} S ∩ T ≠ { 0 } ,则 ∃v∈S∩T,vTv≠0 ∃ v ∈ S ∩ T , v T v ≠ 0 。因此 S S 和T不正交。
    命题:设 S S 和T是 Rn R n 中的两个子空间,且 dimS+dimT>n,则S和T d i m S + d i m T > n , 则 S 和 T 不正交。

子空间的正交性

定理:设 A A 是 n×n矩阵,则 C(A)和N(AT) C ( A ) 和 N ( A T ) 正交, C(AT) C ( A T ) 和 N(A) N ( A ) 正交。

设 α∈N(AT) α ∈ N ( A T ) ,则 αTA=0 α T A = 0 。
因此 α和A α 和 A 的全部列向量垂直。可以得到 N(AT)⊥C(A) N ( A T ) ⊥ C ( A ) 。
将 A A 换成AT,可以得到 C(AT)⊥N(A) C ( A T ) ⊥ N ( A ) 。

四个子空间还存在着如下的关系:

N(AT)+C(A)=Rm,C(A)+N(AT)=Rn N ( A T ) + C ( A ) = R m , C ( A ) + N ( A T ) = R n

我们说 C(A)是N(AT) C ( A ) 是 N ( A T ) 在 Rm R m 上的正交补, C(AT) C ( A T ) 是 N(A) N ( A ) 在 Rn R n 上的正交补。

定义:设 V⊂Rn V ⊂ R n 是一个子空间, V V 在Rn中的正交补定义为集合

{w∈Rn|vTw=0,∀v∈V} { w ∈ R n | v T w = 0 , ∀ v ∈ V }

子空间的性质

  1. 若 A A 对称,即A=AT,则 C(A)=C(AT) C ( A ) = C ( A T ) ,因此 C(A)⊥N(A) C ( A ) ⊥ N ( A ) 。

  2. ATA A T A 为对称阵,且 N(A)=N(ATA),C(AT)=C(ATA) N ( A ) = N ( A T A ) , C ( A T ) = C ( A T A ) 。

    Ax=0⇒ATAx=0⇒N(A)⊆N(ATA) A x = 0 ⇒ A T A x = 0 ⇒ N ( A ) ⊆ N ( A T A )

    ATAx=0⇒xTATAx=0⇒Ax=0⇒N(ATA)⊆N(A) A T A x = 0 ⇒ x T A T A x = 0 ⇒ A x = 0 ⇒ N ( A T A ) ⊆ N ( A )

    ⇒N(A)=N(ATA) ⇒ N ( A ) = N ( A T A )

  3. 若 Ax=b A x = b 有解,则 Ax=b A x = b 在 C(AT) C ( A T ) 中有唯一解。

    存在性:设 Ax=b A x = b 有解,则 b∈C(A) b ∈ C ( A ) 。又因为 C(A)=C(AAT) C ( A ) = C ( A A T ) ,因此 b∈C(AAT) b ∈ C ( A A T )

    ∴∃y∈Rm⇒AATy=b ∴ ∃ y ∈ R m ⇒ A A T y = b

    letxr=ATy⇒Axr=b∴xr∈C(AT) l e t x r = A T y ⇒ A x r = b ∴ x r ∈ C ( A T )

    唯一性(反证法):若 x1r,x2r∈C(AT),and Ax1r=b=Ax2r x r 1 , x r 2 ∈ C ( A T ) , a n d   A x r 1 = b = A x r 2
    ∴A(x1r−x2r)=0⇒x1r−x2r∈N(A) ∴ A ( x r 1 − x r 2 ) = 0 ⇒ x r 1 − x r 2 ∈ N ( A )

    ∵x1r,x2r∈C(AT)∴x1r,x2r∈C(AT)∩N(A)={0} ∵ x r 1 , x r 2 ∈ C ( A T ) ∴ x r 1 , x r 2 ∈ C ( A T ) ∩ N ( A ) = { 0 }

    ∴x1r=x2r ∴ x r 1 = x r 2

欢迎关注我的个人博客。

MIT18.06线性代数课程笔记11:矩阵空间、子空间的交和、秩一矩阵 课程简介18.06是Gilbert Strang教授在MIT开的线性代数公开课,课程视频以及相关资料请见https://ocw.mit.edu/courses/mathematics/18-06-linear-algebra-spring-2010/index.htm。 课程笔记这部分对向量空间做了一些拓展,介绍了矩阵空间以及解集空间,然后给出了子空间的操作定义:交、和。然后Strang给出了一些对 阅读详情

相关推荐

线性代数 --- 线性代数基本定理下(四个基本子空间他们两两正交,且互为正交补)

线性代数基本定理(下)---四个基本子空间,两两正交

松下J27录放机 6272

线性代数(四十) : 正交补与正交投影

线性代数(四十) : 正交补

方橙 1万+

绕开华为通道,获取解锁码解锁BootLoader

刷机有风险,操作需谨慎,如果因为各种因素导致手机变砖无法开机,本教程概不负责,望悉知 前言 这篇文章的大多内容是根据我自己找的一篇文章《绕开华为通道,获取解锁码解锁BootLoader》来编写的,里面的大部分内容是文章的原内容。下面的都是我参考文章中做了一些小部分的修改,增加了我华为P8手机的一些操作,下面开始讲述我的解锁过程。 因为华为官方在2018年的七八月份吧,关闭了解锁码的申请通道,这...

Martin.Mu `s Special Column 5万+

李宏毅线性代数11: 正交(Orthogonality)

1范数(norm)&距离 1.1 p范数通项 2 点积&正交 2.1 点积性质 2.2 勾股定理(pythagorean theorem) 2.3 菱形的两条对角线正交 3 正交补 向量集S的正交补是一组向量,这组向量垂直于S中的任意一个向量 3.1 正交补性质 1)正交补是一个子空间 利用定义i证明,满足加法和数乘封闭 2)对于任何一个非空向量集S,S张成的子空间的正交补和S的正交补相同 3)如果W是一个子空间,B是W...

qq_40206371的博客 5737

腾讯文档API逆向分析:不用Selenium也能批量导出的黑科技

本文揭秘了如何通过Python逆向分析腾讯文档的隐藏API,实现无需Selenium即可批量导出在线表格的高效方法。详细解析了API调用流程、Cookie维护及异常处理技巧,相比传统方案性能提升显著,适用于大量文档导出的自动化场景。

h9j8k7l6m5n的博客 1201

避坑指南:STM32H7不同DMA控制器(MDMA/DMA2D/BDMA)到底该用哪个?

本文深入解析STM32H7系列芯片的DMA控制器选型策略,涵盖MDMA、DMA2D、BDMA等不同控制器的架构原理与性能对比。通过实际项目案例,提供高速TCM数据搬运、GUI加速、低功耗传输等场景的选型决策树,并分享性能优化与调试技巧,帮助工程师避开常见陷阱,提升系统效率。

weixin_26876073的博客 447

14正交向量与子空间

正交向量与子空间

m0_56898461的博客 915

相机图像质量评估标准全解析:MTF、CA、SNR 与色彩偏差的实战理解

图像质量评估是影像系统开发中的核心环节,它直接影响用户视觉体验与终端产品竞争力。本文基于真实的图像调试工程实践,系统讲解主流图像评价指标,包括调制传递函数(MTF)、色差(CA)、信噪比(SNR)与色彩偏差(DeltaE)等关键标准。结合 Imatest 测试流程与实际样张数据,逐项拆解各项指标在实际图像分析中的意义与优化路径,帮助开发者建立完整、量化、工程化的图像质量评估体系。

努力分享一些人工智能、计算机视觉、影像等相关的知识干货! 2805

线性代数|正交向量组的性质

线性代数学习笔记

长行 6799

【YoloV11改进策略】基于流形约束超连接(mHC)增强YoloV11全局特征提取能力|独家复现|梁文峰署名论文

论文标题:流形约束超连接 (Manifold-Constrained Hyper-Connections, mHC)核心问题:针对超连接 (Hyper-Connections, HC) 扩展残差流宽度时破坏恒等映射、引发训练不稳定性和高内存开销的问题,提出一种约束性框架。目标:恢复残差连接的稳定性与可扩展性,同时保持HC的性能增益。基准模型:基于DeepSeek-V3的MoE架构,进行了3B、9B、27B模型的实验验证。论文图示mHC 是一个通用的HC扩展框架。

m0_47867638的博客 1349

ABAP Bits and Bytes 完全参考,理解内存、字节、位运算与类型解释

ABAP开发中业务代码与底层字节处理的差异:业务层关注采购订单、会计凭证等语义信息,而接口开发需处理十六进制、位运算等底层操作。文章通过整数变量示例说明同一段字节在不同类型解释下会呈现不同值,并介绍x类型、位运算及类型转换的实际应用。这些知识在文件接口、加密传输等场景中尤为重要,开发者需注意字节序、编码等问题。建议将底层协议处理与业务逻辑分离,以保持代码清晰和可维护性。

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 142

线性子空间的交、并、和、维数与直和等各种关系总结

线性子空间(linear subspace) 线性子空间(又称向量子空间,简称子空间)是线性空间中部分向量组成的线性空间。设W是域P上的线性空间V的一个非空子集合,若对于V中的加法及域P与V的纯量乘法构成域P上的一个线性空间,则称W为V的线性子空间. 定义 设W是域P上的线性空间V的一个非空子集合,若对于V中的加法及域P与V的纯量乘法构成域P上的一个线性空间,则...

行走的CysHero 6万+

用一组可复现实验讲清 ABAP 内表 Standard / Sorted / Hashed 的性能差异

摘要(150字): SAP项目中性能问题常源于ABAP内表选型不当。标准表(STANDARD TABLE)写入快但查找慢(线性扫描),适合遍历场景;排序表(SORTED TABLE)保持有序,支持二分查找,适合范围查询;哈希表(HASHED TABLE)基于唯一键实现常数级查找,适合高频精确匹配。实验表明:标准表+BINARY SEARCH需预排序,成本可能高于直接使用排序表;哈希表在键匹配时性能最优。Gateway和RAP场景中,内表选型直接影响接口响应,建议根据读写负载(追加/遍历/精确查找)选择对应类

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 201

线性代数(六)正交性

文章目录一:内积、长度、正交性1.1内积1.2长度1.3正交向量1.4总结二:正交集2.1定义2.2定理--正交基2.3正交投影2.4单位正交集三:正交矩阵3.1单位正交列向量3.2性质3.3正交矩阵初入门四:拉格姆-施密特方法4.1定义4.2步骤4.3例子4.4QR分解 一:内积、长度、正交性 1.1内积 1.定义: 2.定理: 注:从上面的性质可以简单总结出其是符合“对加法、对乘法封闭的”。 1.2长度 1.定义: 2.单位向量 3.n维空间的距离 1.3正交向量 注:补充定理

qq_37534947的博客 1万+

SQL面试题——最大连续登陆问题

最大连续登陆是我们计算比较常用的指标,我们可以将其当成一个经典的SQL模型,后面我们也会陆续总结出其他的模型,你还知道其他的比较经典的SQL 吗?欢迎分享,或者你还知道其他的关于计算连续的指标?最大连续登陆重要的是计算思想,最大连续才是关键,登陆只是一个场景,要学会举一反三。

9012

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

线性代数导论14——正交向量与子空间

本文是Gilbert Strang的线性代数导论课程笔记。课程地址:http://v.163.com/special/opencourse/daishu.html   第十四课时:正交向量与子空间 本文讲解什么是向量的正交,什么是子空间的正交,什么是基的正交。 记住上图,四个子空间两两正交。 正交向量 在n维空间中,向量之间的夹角是90度, 判断两个向量X,Y是

向往 6979

IMSL CNL 7.0.0 (x86-64)Crack

IMSL CNL 7.0.0 (x86-64)Crack intel的算法库破解文件,这是C++版本的破解文件

MIT 18.06线性代数笔记:正交向量与子空间的快速入门

MIT 18.06线性代数笔记是学习线性代数的优质资源,本文将带你快速掌握正交向量与子空间的核心概念,适合线性代数初学者和需要巩固基础知识的同学。 ## 什么是正交向量? 正交向量是线性代数中的重要概念,简单来说,**如果两个向量的点积为零,则它们互相正交**。在几何意义上,这意味着两个向量之间的夹角为90度。 [![正交向量投影示意图](https://raw.gitcode.com/gh

gitblog_00873的博客 709

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

正交向量和子空间

对于两个向量u和vu⋅v0u⋅v0其中,u \cdot v表示u和vu⋅vu1v1u2v2⋯unvnu⋅vu1​v1​u2​v2​⋯un​vn​如果u和v是n维空间中的向量,内积为零时,它们被认为是正交的。一个集合S是一个向量空间零向量属于子空间:零向量必须属于集合S。0∈S0 \in S0∈S加法封闭性:对任意的两个向量u和v,如果它们都属于子空间S,则它们的和u + v也必须属于S。uv∈。

m0_69378371的博客 1382

线性代数学习之正交性,标准正交矩阵和投影

正交基和标准正交基: 前言: 经过上一次线性代数学习之向量空间,维度,和四大子空间的学习,对于空间的概念已经有了非常深刻的认识了,而描述空间很重要的方式除了维度以外,那就是空间的基了,而如小标题所示就是跟空间的基相关,所以先来回忆一下空间基的相关概念: “一个n维空间任何一组线性无关的向量,都是这个n维空间的一组基”,比如之前举的二维平面的例子: 但是!!实际为了研究方面还是喜欢这样的一组基,也就是咱们此次要研究的正交基: 这是因为在空间中任意取出一个点的话: 很容易通过正交基来描述

webor2006的博客 1万+

线性代数 · 矩阵 | 四个基本子空间与相关分解

……

u013669912的博客 1625

MIT线性代数笔记解读:正交向量与子空间详解

在数学和工程应用中,正交性是一个极其重要的概念。当两个向量的点积为零时,我们称这两个向量正交。具体来说,对于向量x和y,如果满足x₁y₁ + x₂y₂ + ... + xₙyₙ = 0,那么x和y就是正交的。 正交性可以看作是垂直概念在高维空间中的推广。在二维或三维空间中,正交确实意味着垂直,但在更高维的空间中,我们使用点积为零来定义正交性。 ## 毕达哥拉斯定理与正交性 毕达哥拉斯定理为我...

gitblog_00460的博客 553

线性代数及其应用 | 第六章 正交性和最小二乘法

第六章正交性和最小二乘法 6.1 内积、长度和正交性 内积: 定理1:内积性质 长度:向量的长度的平方=自身与自身的内积 向量的距离 注:向量减法,减向量指向被减向量 正交向量 定理2:勾股定理 正交补 定理3:矩阵行向量空间和列向量空间的正交补 6.2 正交集 正交向量集 定理4:正交向量集的线性无关性 正交基 定理5:正交基下计算系数 正交投影 单位正交集 单位...

暴走的二萌 3454

矩阵论极简笔记(2):列空间、正交补、零空间、行空间

来锻炼大脑内存

猫头军师兵书 7164

二一、正交补、转置矩阵的秩、子空间的维度

1. 定义 如果可以找到一个集合,集合中的每一个元素正交于子空间V中的每一个元素,那么该集合就称为V的正交补;Orthogonal complement of V, 可以简称为V perp,V perpendicular. V is some subspace of Rn. 2. V的正交补是子空间 证明: 假设a,b是V的正交补中的元素,那么 1. a+b是V的正交补中的元素么...

赵小二的专栏 7431

线性代数拾遗(5) —— 矩阵的四个基本子空间

本文介绍矩阵的四个基本空间

佚失的诗篇 4952

线性代数:正交补

1、行空间和左零空间 矩阵的列所张成的空间叫做列空间,顾名思义,行空间就是矩阵行所张成的空间。 矩阵A的列空间,等于转置矩阵T(A)的行空间。 所有满足Ax=0的x向量组成的空间叫做零空间,满足yA=0的向量组成的空间是左零空间。 矩阵A的零空间,等于转置矩阵T(A)的左零空间。 2、列空间正交左零空间 左零空间的任意向量,有XA=0,X正交与A的所有...

weixin_30670965的博客 3049
上一篇: 线性代数笔记1:矩阵的四个基本子空间
下一篇: 进程模型与实现
zealscott
博客等级 码龄9年 327粉丝 196原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值