第一步线性代数 (一)_线性代数奇异系统-优快云博客

本文链接：https://blog.youkuaiyun.com/lc8411/article/details/145135034

人工智能学习

前言

根据吴达恩的课程开始学习，线性代数，微积分，概率统计，机器学习，深度学习，目前主流框架。

第一步线性代数 (一)

句子系统（system of sentences）

非奇异系统是携带和句子一样多数量的信息的系统。（non-singular）
奇异系统是指信息重复冗余和信息矛盾的系统。（singular）
(redundant 冗余，contradictory 矛盾)
矩阵的秩（rank）是衡量多余的程度的方法。

方程组（system of equations）

在这里插入图片描述

system 1 奇异方程组，无数的解。
system 2 奇异方程组，没有解。
system 3 奇异方程组，无数的解。

线性和非线性
在这里插入图片描述

方程组作为平面和直线（system of equations as lines and plans ）

在这里插入图片描述

截距‌（y-intercept）特指直线与y轴交点的纵坐标。在直线方程 y=kx+b 中，b就是截距。当a= 0时候b的值就是截距。
斜率‌(slope) 斜率‌表示一条直线关于坐标轴的倾斜程度。它通常用直线与横坐标轴夹角的正切来定义，也可以表示为直线上两点纵坐标之差与横坐标之差的比。y=kx+b,k便是斜率。
== 斜率在图像上意义：每向右移动一个单位x+1，线条就向下移动的量等于y值减去斜率==
两个直线方程坐标里面的交点就是唯一的解。（unique solution）

奇异性的几何概念（a geometric notion of singualrity）

在这里插入图片描述
改变常数为0，不会改变方程组的奇异性。

奇异和非奇异矩阵（singular vs nonsingular matrices）

通过方程组将常量设为0，提取各个变量的系数组成的矩阵。奇异性和方程组一样。

线性相关和非线性相关（linear dependence and independence）

Row are linearly independent
Row are linearly dependent
行和列都一样，可以组合使用。
通过某一行乘以一个标量得到另一行。
通过两行相加得到另一行。

行列式（determinant）

计算行列式，零就是奇异的，非零就是非奇异的。
计算方法：
在这里插入图片描述
3*3矩阵

求解非奇异方程组（sloving nonsingular system of linear equations）

(manipulate 操作) 消元法，没啥好讲的。

求解奇异方程组（sloving singular system of linear equations）

方程求解后，没有唯一的解或矛盾，方程组为奇异的。

求解多元的方程组（sloving system of equations with more variables）

逐级的消除变量的系数，然后组合得到结果。

矩阵行简化（matrix row reduction）

在这里插入图片描述
(Row echelon form )对角线上有1，1的右边可以是任意数字，如果对角线上有0，0的右边必须全是0，对角线下全是0.这种称为行阶梯形式。
(Reduced row echelon form ) 简化行阶梯形式

保持奇异性的行操作（row operations that preserve singularity）

通过计算行列式来确定操作后是否保持了奇异性。
1.交换行 (switching rows)
2.某行乘以一个非零的标量（multiplying a row by a (non-zero) scalar）
3.某一行加上另外一行成为新的一行。（adding a row to another row）

矩阵的秩 (rank of a matrix)

在这里插入图片描述

奇异值分解（SVD）：尽可能少的改变矩阵的情况下，降低矩阵的秩。
Rank + Dimension of solution space = matrix rows.秩加上解空间等于矩阵的行数
当且仅当矩阵满秩的时候，即秩等于行数时，矩阵是非奇异的。

一般情况矩阵的秩和行阶梯形式（rank of a matrix and row echelon form: general case）

在这里插入图片描述
通过行操作得到矩阵的行阶梯形式。

行阶梯形式的对角线上的1的个数，代表了秩rank的值。当且仅当行阶梯形式的对角线上只有1没有0的时，矩阵是非奇异的non-singular。

全是0行必须在最下面。
每一非零行都有最左边的非零元称为主元（pivot）。
每个主元必须在上面主元的右边。
秩的值就是主元的数量。