Norah 的技术博客

奇异值分解（SVD）是将任意矩阵分解为其特征向量和奇异值的组合，广泛应用于数据降维、信号处理和图像压缩等领域。

奇异值是矩阵的一组重要特征，来源于矩阵的奇异值分解（SVD，反映了矩阵的性质，如其秩、可逆性以及对数据压缩和降维的影响。

对称矩阵是满足A = A^T的矩阵，它总是可以通过正交矩阵进行对角化。即存在一个正交矩阵Q，使得A = Q·D·Q^T，其中D是对角矩阵，包含了矩阵的特征值。正交对角化使得对称矩阵的运算更加简便。

对角化使得矩阵的运算变得更加简单，因为对角矩阵的幂运算比一般矩阵容易进行。并不是所有矩阵都能对角化，只有当矩阵有足够的线性无关的特征向量时，它才能对角化。

两个矩阵是相似的，表明它们在某种基下表示相同的线性变换。相似矩阵具有相同的特征值，但不一定相同的特征向量。

通过特征值分解可以得到特征值与特征向量，特征值表示的是这个特征到底有多重要，而特征向量表示这个特征是什么，可以将每一个特征向量理解为一个子空间，我们可以利用这些线性的子空间干很多的事情。

特征值和特征向量也是方阵的一个属性，它们是把一个矩阵当作变换作用来看的时候这个矩阵所拥有的一些特征，这些特征由特征值和特征向量所反映。

行列式是一个标量值，用于描述一个方阵的某些特性，如是否可逆。它可以通过矩阵的元素计算得出，常用于线性代数中判断方程组是否有解、矩阵是否可逆等。行列式为零表示矩阵不可逆，而非零行列式则表示矩阵可逆。

坐标系是用来描述空间中点的位置的系统，如笛卡尔坐标系。坐标转换是将一个坐标系中的点映射到另一个坐标系，常见的如笛卡尔到极坐标的转换。线性变换则是通过矩阵变换保持向量的加法和标量乘法性质，常用于旋转、缩放等操作。

高维投影是将高维数据映射到低维空间的过程，常用于数据降维和特征提取。其应用包括：主成分分析（PCA），线性判别分析（LDA），图像处理与降噪等

QR分解常用于解线性方程组、最小二乘问题以及求矩阵的特征值等应用。其基本思想是通过正交化过程（如 Gram-Schmidt 过程）将原矩阵转化为正交矩阵和上三角矩阵的乘积。

标准正交矩阵 \( Q \) 是一个方阵，其列向量（或行向量）既相互正交，又为单位向量。它满足 \( Q^T Q = I \)，即矩阵的转置与自身的乘积为单位矩阵。标准正交矩阵的一个重要性质是其逆等于转置，即 \( Q^{-1} = Q^T \)。它常用于表示旋转变换和在 QR 分解中。

Gram-Schmidt过程是一种将一组线性无关的向量转化为正交或标准正交基的算法，常用于向量空间中的基变换和正交化操作。

在一个二维空间，给出空间的任意一组基u,v，首先这两个向量一定不共线，然后通过这组向量来求取二维平面的正交基，只需让这组向量的其中一个向量保持不变，令另一个向量与保持不变的这向量垂直，这样就得到了二维平面的一组正交基。

正交基是一组相互正交的向量，满足两两内积为零，用于简化向量分解和坐标计算。标准正交基是正交基的特殊形式，要求基向量不仅正交且为单位长度（长度为1），常用于欧几里得空间的计算，如正交分解和投影。标准正交基具有计算简便和表达规范的优势，是线性代数和几何分析中的常用工具。

四大子空间构成了矩阵的全空间，揭示了行列的线性独立性和正交分解的内在结构。研究矩阵的四大子空间（行空间、列空间、零空间、左零空间）具有重要的理论和实际意义，帮助我们全面理解矩阵的性质及其在线性代数中的作用。

“左零空间”是矩阵的四大子空间之一，表示所有满足 y·A = 0的行向量y的集合。换句话说，左零空间是与矩阵A的行空间正交的向量空间。

线性代数中，零空间的基由所有满足 𝐴⋅𝑥=0 的线性无关向量组成，描述了矩阵的核空间结构。秩-零度定理揭示了矩阵列秩与零空间维度（零度）之间的关系，具体为：矩阵的列数等于列秩与零度之和。

零空间是矩阵的四大子空间之一，表示所有被矩阵映射到零向量的输入向量的集合。

若秩等于矩阵的行数或列数，矩阵为“满秩”，代表所有行或列线性独立。不满秩矩阵没有逆。

在矩阵的四大子空间中，行空间和列空间是两个核心概念，分别描述了矩阵的行和列所张成的向量空间。行空间和列空间通过矩阵的秩相连，二者的维度（秩）相同，反映了矩阵的线性独立性和信息内容。

从整个欧几里得空间来说，想知道一个空间的维度为多少，只需要找到空间中的一组基，看这一组基的向量个数是多少，就可以说这个空间对应的维度就是这组基的向量的个数。

假设V是一个向量空间，如果S是V的子集，且S还是一个向量空间，则称S是V的一个子空间。子空间的典型应用场景是降维操作降维操作,在高维数据所在的空间内找到一个子空间，使得这些数据在子空间中也能很好的找到它们所对应的位置，同时信息并没丢失，这样一个维度更低的子空间，意味着更加简单和方便研究，数据运算量更少对应的计算时间更短。

广义向量空间是一个集合，集合中的元素可以定义两种运算: 加法和数量乘法，并且这两种运算满足十条性质.

欧几里得空间本质是有序实数有理数和无理数总称为实数元组的集合，其中有序实数是指按照一定顺序排列的实数表示一定的意义，改变它们的位置，则表示的意义不同。

若一组向量可以生成整个n维空间，且线性无关，这组向量一定有n个，则称这组向量为这个n维空间的一组基(bases)

若在二维空间中任何向量，都可以表示为 u和v 的线性组合，则可以说 u和v生成整个二维空间。

一组向量线性相关，表示这组向量出现了信息冗余，因为一个向量可以被另一个向量的线性组合所表示，意味着这个向量本身其实并没有表达新的信息。反之，一组向量线性无关，意味着信息完全不冗余，对于这组向量来说所有向量都是独立的。

矩阵的LU分解是一种将矩阵拆解为两个部分的分解方法，其中一个是下三角矩阵，另一个是上三角矩阵。这种分解可以用于快速求解线性方程组、计算矩阵行列式和逆矩阵。LU分解通过逐步消去矩阵中的元素，将问题简化为更易处理的形式，适用于方阵，且对稀疏矩阵的效率尤为显著。

矩阵可逆意味着：矩阵A是非奇异矩阵；齐次线性系统Ax=0有唯一解，且这个解为零解；矩阵A的行最简形式为I；矩阵A可以表示为一些列初等矩阵的乘积

改变矩阵一个A，可以通过左乘单位矩阵来进行变换，是对单位矩阵进行一次初等变换得到结果矩阵称为初等矩阵

通过构建矩阵A的增广矩阵进行消元可得到矩阵的逆

现实中求取一个最优化问题的解所需的约束条件构成线性系统，所以研究线性系统就是为了的解线性方程组(约束条件)。

欧拉空间是对现实空间的规则抽象和推广（从n

在矩阵系统中，大量的矩阵不存在逆矩阵，但总体而言，可逆矩阵在矩阵系统中还是居多的，只是相比不可逆矩阵而言少的多，因此可逆矩也称为非奇异矩阵，以表明其是不平凡的。

向量 是对数的拓展，一个向量代表的是一组数；矩阵 是对向量的拓展，一个矩阵代表的是一组向量。应用于数据记录表，系统，变换函数和空间。当矩阵 表示对一个系统的描述，因为系统可以通过方程组描述系统内成员变量的关系，方程组构成系统的描述矩阵，通过方程式可以求解系统的最优解。

在参考坐标系的基向量上的投影的乘积，当基向量互相垂直的情况下，两向量的不同属性的分量(如。解决不同方向向量间存在的方向问题，不同方向的向量直接乘运算是没有意义的。向量的点乘结果反映在分量上是向量间同属性分量的乘积的和，如。应用领域如推荐系统，商品，电影，音乐的推荐。可以用来衡量两个向量的相似程度()的相乘是无意义的，分量间的夹角。，所以不同属分量乘积是0。主要用来计算向量间的夹角。

N维向量：在自然科学领域，有时一个单纯数量就可以量化某个物理量，如体积能够直观反映物体占用的空间大小。就是从坐标原点(零向量本身)出发又指向零向量，所以零向量不是一个有向线段，它依然是一个点。：表征从一个点出发到另一个点的相应的结果，并不描述得到相应结果的过程差异(如起始点的不同)，当在一个空间证明出了这个向量的存在，才称这个向量为零向量。线性代数的重点在于其推广一个数的研究到一组数的研究。(类比数轴，实数的值都是相对数轴上的0的距离的描述)。含义向量的大小，也就是向量的长度（或称模），向量。