线性代数从零开始详解笔记【向量】

向量

1. 向量定义

（1）n个数：$a_0.....a_n$组成的有序数组叫做向量，tensor.size=[n]，向量有分为行向量和列向量（如果我们研究的问题只有二维矩阵的时候行列向量这个定义才有意义）

（2）分量都为0的向量叫做零向量

（3）矩阵 $(AB=0)\nLeftrightarrow (A=0orB=0)$，但向量满足 $k\vec{\alpha }\iff (k=0or\vec{\alpha }=0)$

（4）向量组：很多个向量组成的数组：Ga={a1⃗...an⃗}G_{a}=\{\vec{a_1}...\vec{a_n}\}Ga​={a1​​...an​​}

（5）向量这里我们描述的 “维度” 是指：n个数的 n（这样的定义只有在当我们研究最高维只有二维矩阵的时候才成立）我们提倡尽量不使用这样狭义的“维度”概念

2. 描述向量组的外部关系：线性组合关系

线性组合又叫线性表示。
线性组合关系描述的是一个向量和一个向量组的关系（Bool）。
我们会说：某个向量是否可以用向量组进行线性表示，或者称某个向量是否是某个向量组的线性组合

如果我们把 “线性表示” 用来描述两个向量组的关系的时候，我们会说：向量组$G_a$的每一个向量都可以被另外一个向量组$G_b$线性表示

（1）已知向量组：{$\overrightarrow{{\alpha }_0},\overrightarrow{{\alpha }_1},\overrightarrow{{\alpha }_2},\overrightarrow{{\alpha }_3}.......\overrightarrow{{\alpha }_{n-1}},\overrightarrow{{\alpha }_n}$} 和 向量 $\beta$ 形成表达式：
$$\beta =k_0\overrightarrow{{\alpha }_0}+k_1\overrightarrow{{\alpha }_1}+k_2\overrightarrow{{\alpha }_2}+k_3\overrightarrow{{\alpha }_3}+.....+k_{n-1}\overrightarrow{{\alpha }_{n-1}}+k_n\overrightarrow{{\alpha }_n}$$

• 假如所有的 k 有解，则 Bool =True
• 假如所有的 k 无解，则 Bool =False

（2）零向量可由 任意向量组 进行线性表示：$\vec{0}=0\ast \vec{a}+0\ast \vec{b}+0\ast \vec{c}$

（3）任意向量可有像这样的向量组表示:
{a0⃗=[0,0,0,1],a1⃗=[0,0,1,0],a2⃗=[0,1,0,0],a3⃗=[0,1,0,0]} \{ \vec{a_0}=[0,0,0,1],\vec{a_1}=[0,0,1,0],\vec{a_2}=[0,1,0,0],\vec{a_3}=[0,1,0,0] \} {a0​​=[0,0,0,1],a1​​=[0,0,1,0],a2​​=[0,1,0,0],a3​​=[0,1,0,0]}

（4）向量组的等价关系：两个向量组是否可以相互线性表示。
{a1⃗...an⃗}≅{b0⃗...bn⃗} \{\vec{a_1}...\vec{a_n}\}\cong\{{\vec{b_0}...\vec{b_n}}\} {a1​​...an​​}≅{b0​​...bn​​}

（5）向量组的等价关系具有传递性$(G_a\cong G_b，G_b\cong G_c)\Rightarrow (G_a\cong G_c)$

（6）是否是线性组合的问题都可以转化为方程组是否有解的问题来解决：

例子：已知β=[−3,2,−4]，G={α0⃗=[1,0,1]，α1⃗=[2,1,0]，α2⃗=[−1,1,−2]}\beta=[-3,2,-4]，G=\{\vec{\alpha_0}=[1,0,1]，\vec{\alpha_1}=[2,1,0]，\vec{\alpha_2}=[-1,1,-2]\}β=[−3,2,−4]，G={α0​​=[1,0,1]，α1​​=[2,1,0]，α2​​=[−1,1,−2]} 问$\beta$是否可以用G进行线性表示？

第一步：先把所有向量进行转置为列向量：
$$\overrightarrow{a_0}=\left[\begin{array}{c}1\\ 0\\ 1\end{array}\right]\overrightarrow{a_1}=\left[\begin{array}{c}2\\ 1\\ 0\end{array}\right]\overrightarrow{a_2}=\left[\begin{array}{c}-1\\ 1\\ -2\end{array}\right]\vec{\beta }=\left[\begin{array}{c}-3\\ 2\\ -4\end{array}\right]$$
第二步：写成对应的方程组：
$$\{\begin{array}{l}{k}_1+2k_2-k_3=-3\\ k_2+k_3=2\\ k_1-2k_2=-4\end{array}$$

3. 描述向量组的内部关系：线性相关和无关

我们使用线性相关和无关来描述一个向量组内部所有向量之间的关系（Bool）。
当然向量组可以只有一个向量。
我们可以把向量组看成一个tensor.size=[n,m]的张量，n是向量的个数，m是向量的通道数

（1）已知向量组：{$\overrightarrow{{\alpha }_0},\overrightarrow{{\alpha }_1},\overrightarrow{{\alpha }_2},\overrightarrow{{\alpha }_3}.......\overrightarrow{{\alpha }_{n-1}},\overrightarrow{{\alpha }_n}$} 满足以下表达式：
$$k_0\overrightarrow{{\alpha }_0}+k_1\overrightarrow{{\alpha }_1}+k_2\overrightarrow{{\alpha }_2}+k_3\overrightarrow{{\alpha }_3}+.....+k_{n-1}\overrightarrow{{\alpha }_{n-1}}+k_n\overrightarrow{{\alpha }_n}=0$$

• 满足只要有一组k不全为0的解，则线性相关，则Bool=True
• k 只有一组解而且k解全为0，则线性无关，则Bool=False

（2）向量组里面只要有两个向量成比例，则整个向量组必线性相关

（3）单个非零向量必无关，单个零向量必有关

（4）向量组的部分和整体的关系(注意充分必要条件分开的)

• 部分相关$\Rightarrow$整体相关
• 部分无关$\Leftarrow$整体无关

需要注意的是，这里的部分和整体强调的关系是：向量组里的向量的个数 n1 和 n2的关系
$G_{src}$=tensor.size([n1,m])
$G_{tar}$=tensor.size([n2,m)

（5）向量组的向量接长和截短的关系(注意充分必要条件分开的)

• 相关$\Rightarrow$接长相关
• 无关$\Rightarrow$截短无关

接长和截短的含义是：向量组的每个向量的通道数 m1和 m2的关系
$G_{src}$=tensor.size([n,m1])
$G_{tar}$=tensor.size([n,m2])

口决：部分相关推接长，整体无关推截短

（6）如果向量组能组成方阵（当张量满足n=m时），判断是否线性相关的快速方法：
首先转化：向量组G$\to$方阵R$\to$行列式D

• $D\ne 0\to$线性无关
• $D=0\to$线性相关

（7）假如{a0⃗...an⃗}\{\vec{a_0}...\vec{a_n}\}{a0​​...an​​}线性相关，向量组里面至少有一个向量和该向量满足线性表示关系（意思试该向量可由其他向量表示，可以用自己表示自己，所以肯定至少一个）

例子：

$\vec{a}=[1,0,3]，\vec{b}=[2,1,1]，\vec{c}=[1,1,0]$组成向量组，问向量组是否满足线性相关？
$$D=\left|\begin{array}{ccc}1& 0& 3\\ 2& 1& 1\\ 1& 1& 0\end{array}\right|=0+6+0-3-0-1=2\ne 0$$
所以不满足线性相关

例子：

已知$\overrightarrow{a_0},\overrightarrow{a_1},\overrightarrow{a_2}$线性无关，试证明：$\overrightarrow{a_0}+\overrightarrow{a_1}$，$\overrightarrow{a_1}+\overrightarrow{a_2}$，$\overrightarrow{a_0}+\overrightarrow{a_2}$也满足线性无关

证明：已知$\overrightarrow{a_0},\overrightarrow{a_1},\overrightarrow{a_2}$线性无关，可推出：
$$\begin{gathered} k_0\overrightarrow{a_0}+k_1\overrightarrow{a_1}+k_2\overrightarrow{a_2}=0 \\ \Rightarrow \{\begin{array}{l}{k}_0=0\\ k_1=0\\ k_2=0\end{array} \\ {k}_a(\overrightarrow{a_1}+\overrightarrow{a_2})+k_b(\overrightarrow{a_0}+\overrightarrow{a_2})+k_c(\overrightarrow{a_0}+\overrightarrow{a_1})=0 \\ (k_b+k_c)\overrightarrow{a_0}+(k_a+k_c)\overrightarrow{a_1}+(k_a+k_b)\overrightarrow{a_2}=0 \\ \Rightarrow \{\begin{array}{l}{k}_0=k_b+k_c=0\\ k_1=k_a+k_c=0\\ k_2=k_a+k_b=0\end{array} \\ \Rightarrow \{\begin{array}{l}{k}_a=0\\ k_b=0\\ k_c=0\end{array} \end{gathered}$$
而且是唯一解，故可证线性无关。

定理证明：已知向量组{$\overrightarrow{a_0}...\overrightarrow{a_n}$}满足线性无关，现有向量组{$\overrightarrow{a_0}...\overrightarrow{a_n},\vec{\beta }$}满足线性相关，则$\vec{\beta }$则可由向量组{$\overrightarrow{a_0}...\overrightarrow{a_n}$}唯一的线性表示。

证明思路：我们需要证明两样东西：【1】可以线性表示【2】唯一的表示

【证明线性表示过程】
方法：只需要证明线性表示的表达式有解即可

$\because \overrightarrow{a_0}...\overrightarrow{a_n},\vec{\beta }$ 满足线性相关
$\therefore$ 存在不全为 0 的 $k_0,k_1,k_2...k_n,k_{\beta }$

$\because \overrightarrow{a_0}...\overrightarrow{a_n}$满足线性无关
$\therefore$ 存在只有唯一的全为 0 的 $k_0,k_1,k_2...k_n$

对于表达式：$k_0\overrightarrow{a_0}+k_1\overrightarrow{a_1}+...+k_n\overrightarrow{a_n}+k_{\beta }\vec{\beta }=0$ $♣$

假设 $k_{\beta }=0$ 时，有 $k_0\overrightarrow{a_0}+k_1\overrightarrow{a_1}+...+k_n\overrightarrow{a_n}=0$，仅只有一组全为0 的解，推得{$\overrightarrow{a_0}...\overrightarrow{a_n},\vec{\beta }$}线性无关，矛盾，故假设不成立

$\therefore k_{\beta }\ne 0$

对表达式 $♣$ 进行转化：
$$\Rightarrow \vec{\beta }=\frac{k_0\overrightarrow{a_0}+k_1\overrightarrow{a_1}+...+k_n\overrightarrow{a_n}}{k_{\beta }}$$

可得到系数的k解集存在
{k0kβ,k1kβ,k2kβ...knkβ} \{\frac{k_0}{k_{\beta}},\frac{k_1}{k_{\beta}},\frac{k_2}{k_{\beta}}...\frac{k_n}{k_{\beta}}\} {kβ​k0​​,kβ​k1​​,kβ​k2​​...kβ​kn​​}

则可证：$\vec{\beta }$可由向量组 {$\overrightarrow{a_0}...\overrightarrow{a_n}$} 线性表示

【证明该线性表示的唯一性】
方法：证明唯一性的方法，我们可以假设存在两个或者多个，然后证明出一致性或者矛盾即可

假设存在多于一个的解，则有
$$\begin{gathered} \vec{\beta }=A_0\overrightarrow{a_0}+A_1\overrightarrow{a_1}+...+A_n\overrightarrow{a_n} \\ \vec{\beta }=B_0\overrightarrow{a_0}+B_1\overrightarrow{a_1}+...+B_n\overrightarrow{a_n} \\ ... \\ \vec{\beta }=Z_0\overrightarrow{a_0}+Z_1\overrightarrow{a_1}+...+Z_n\overrightarrow{a_n} \end{gathered}$$
对于任意两个式子相减，都可以得到
$$\begin{gathered} (A_0-B_0)\overrightarrow{a_0}+(A_1-B_1)\overrightarrow{a_1}+...+(A_n-B_n)\overrightarrow{a_n}=0 \\ \Rightarrow \{\begin{array}{l}{A}_0=B_0\\ A_1=B_1\\ ...\end{array} \end{gathered}$$
每种情况都一致，故假设不成立。
因为可以$\vec{\beta }$可由向量组线性表出，所以仅有唯一解。

我个人超喜欢上面这段精彩的证明

但更重要的是需要记住定理：

已知向量组{$\overrightarrow{a_0}...\overrightarrow{a_n}$}满足线性无关，现有向量组{$\overrightarrow{a_0}...\overrightarrow{a_n},\vec{\beta }$}满足线性相关，则$\vec{\beta }$则可由向量组{$\overrightarrow{a_0}...\overrightarrow{a_n}$}唯一的线性表示。

（8）替换定理：

• G1={a0⃗..an⃗}G1=\{\vec{a_0}..\vec{a_n}\}G1={a0​​..an​​}可由向量组G2={β0⃗..βm⃗}G2=\{\vec{\beta_0}..\vec{\beta_m}\}G2={β0​​..βm​​}线性表示，当满足$n>m$时$\Rightarrow G1$线性相关【常用】
• G1={a0⃗..an⃗}G1=\{\vec{a_0}..\vec{a_n}\}G1={a0​​..an​​}线性无关，当满足$n\le m$ 时$\Rightarrow$可由向量组G2={β0⃗..βm⃗}G2=\{\vec{\beta_0}..\vec{\beta_m}\}G2={β0​​..βm​​}表示【原定理】

推论：两个等价的线性无关向量组，向量个数相同

等价：两个向量组相互可以线性表示

（9）如果有一个三个三维的向量线性相关（三个未知数，三个方程），则四个三维向量的组也线性相关（部分相关推整体）

4. 简化一个向量组的表示：极大无关组

我们能否用最少的向量来表示一个向量组？
所以我们提出了极大无关组这个概念。
定义：对于向量组{a1⃗,a2⃗,a3⃗...an⃗,}\{\vec{a_1},\vec{a_2},\vec{a_3}...\vec{a_n}, \}{a1​​,a2​​,a3​​...an​​,}中有部分向量{ax⃗,ay⃗,az⃗...af⃗,}\{\vec{a_x},\vec{a_y},\vec{a_z}...\vec{a_f}, \}{ax​​,ay​​,az​​...af​​,}满足

• 向量无关
• 整体向量组可以由部分向量组的每个向量线性表示

“极大”的意思：找到线性无关的向量个数是最多的，我们用部分向量来代表一个向量组了
“无关组”的意思：无解的方程组，（n维向量就是有n个未知数）

（1）全0的向量组无极大无关组

（2）一个向量组可以有多个极大线性无关组

理解：比如现在有四个向量{a1,a2,a3,a4}\{a_1,a_2,a_3,a_4 \}{a1​,a2​,a3​,a4​}，已知 $a_1=2a_2,a_3=3a_4$，那么我们既可以用{a1,a2}\{a_1,a_2\}{a1​,a2​}表示，也可以用{a3,a4}\{a_3,a_4\}{a3​,a4​}表示，还有其他两种选择。所以对于一个向量组而言，可以存在不唯一的极大无关组，但如果对于整体本身就是无关的向量组而言，那就只有一个了。

我们可以理解极大线性无关组是一个向量组的特征组

5. 向量组的秩

定义：极大线性无关组含向量个数（所有的极大线性无关组的向量个数都一致的）

注意不是极大无关组的个数，无关组个数没有特别意义。但无关组里的向量个数有意义。因为对于一个向量组而言，我们可以把他看作一个size=[n,m]的张量，也就是矩阵。对于这个矩阵的特征而言，到底有多少种标准进行衡量呢？“无关” 这个性质是对于向量之间的关系而言的，比如在一个Table里面，我们有身高，体重，地址这些无关的标准进行衡量，那我们需要一个基准的描述来表示这些特征属性，而到底有多少个特征呢？描述这些特征数量的定义就是：秩

已知向量组满足张量size=[n,m]

“秩” 记作：r($a_1...a_n$)，满足：0≤r≤min{m,n}\leq r \leq min\{m,n\}≤r≤min{m,n}

我们可以想，一个size=[4,2]的张量，也就是一个有4个向量的向量组，每个向量满足$(x_1,x_2)$，也就是有两个未知数，有四个方程，肯定有解。

（1）等价向量组有相同的秩，但有相同秩的两个向量组却不一定等价。这就好比现在有：【身高，地址】的一个表和【科目，名字】这个表，虽然他们特征的数量一样但是却毫不相关。

（2）行向量组，列向量组

对于矩阵
$$\left[\begin{array}{ccc}{x}_{11}& x_{12}& x_{13}\\ x_{21}& x_{22}& x_{23}\\ x_{31}& x_{32}& x_{33}\end{array}\right]$$
行向量组：Gr:{xr1⃗=[x11,x12,x13],xr2⃗=[x21,x22,x23],xr3⃗=[x31,x32,x33]}G_r:\{\vec{x_{r1}}=[x_{11},x_{12},x_{13}],\vec{x_{r2}}=[x_{21},x_{22},x_{23}],\vec{x_{r3}}=[x_{31},x_{32},x_{33}]\}Gr​:{xr1​​=[x11​,x12​,x13​],xr2​​=[x21​,x22​,x23​],xr3​​=[x31​,x32​,x33​]}

列向量组：Gc:{xc1⃗=[x11x21x31],xc2⃗=[x12x22x32],xc3⃗=[x13x23x33]}G_c:\{\vec{x_{c1}}=\begin{bmatrix}x_{11}\\x_{21}\\x_{31}\end{bmatrix},\vec{x_{c2}}=\begin{bmatrix}x_{12}\\x_{22}\\x_{32}\end{bmatrix},\vec{x_{c3}}=\begin{bmatrix}x_{13}\\x_{23}\\x_{33}\end{bmatrix}\}Gc​:{xc1​​=⎣⎡​x11​x21​x31​​⎦⎤​,xc2​​=⎣⎡​x12​x22​x32​​⎦⎤​,xc3​​=⎣⎡​x13​x23​x33​​⎦⎤​}

行向量组和列向量组分别拥有行秩和列秩。

（3）对于矩阵而言：行秩=列秩=矩阵秩

我们利用这条性质可以把一个向量组写成矩阵，再利用求矩阵的秩的方法（利用矩阵的变换得到阶梯型）来求一个向量组的秩。

（4）单位向量组一定线性无关

（5）初等行变换不改变矩阵列向量组的线性关系

线性关系包括：

• 向量之间是否线性相关
• 部分向量组和向量组内某个向量之间线性表示的系数大小

例子：
$$\left[\begin{array}{ccc}1& 0& 5\\ 0& 1& 3\\ 0& 0& 0\end{array}\right]\to 行变换\to \left[\begin{array}{ccc}1& 0& 5\\ 0& 1& 3\\ 1& 1& 8\end{array}\right]$$

列向量组变化前后的关系：
$$\begin{gathered} a_1=\left[\begin{array}{c}1\\ 0\\ 0\end{array}\right]a_2=\left[\begin{array}{c}0\\ 1\\ 0\end{array}\right]a_3=\left[\begin{array}{c}5\\ 3\\ 0\end{array}\right] \\ {a}_3=5a_1+3a_2 \end{gathered}$$
$$\begin{gathered} b_1=\left[\begin{array}{c}1\\ 0\\ 1\end{array}\right]b_2=\left[\begin{array}{c}0\\ 1\\ 1\end{array}\right]b_3=\left[\begin{array}{c}5\\ 3\\ 8\end{array}\right] \\ {b}_3=5b_1+3b_2 \end{gathered}$$

（6）求向量组的极大无关组的方法

例子：已知：向量组{a1=(1,−2,2,−1),a2=(2,−4,8,0),a3=(−2,4,−2,3),a4=(3,−6,0,−6)}\{a_1=(1,-2,2,-1),a_2=(2,-4,8,0),a_3=(-2,4,-2,3),a_4=(3,-6,0,-6)\}{a1​=(1,−2,2,−1),a2​=(2,−4,8,0),a3​=(−2,4,−2,3),a4​=(3,−6,0,−6)} ，求向量组的极大无关组。

• 第一步：不管是行向量还是列向量，把向量以 “列向量组形式” 写成矩阵：$$\left[\begin{array}{cccc}1& 2& -2& 3\\ -2& -4& 4& -6\\ 2& 8& -2& 0\\ -1& 0& 3& -6\end{array}\right]$$
• 第二步：对矩阵进行行变换得到$$\left[\begin{array}{cccc}1& 0& -3& 6\\ 0& 1& 1/2& -2/3\\ 0& 0& 0& 0\\ 0& 0& 0& 0\end{array}\right]$$
• 第三步：遍历行，找出首非零元所在的列组成的列向量组就是极大无关组。

这里可以看到是第一二列 $b_1=\left[\begin{array}{c}1\\ 0\\ 0\\ 0\end{array}\right]，b_2=\left[\begin{array}{c}0\\ 1\\ 0\\ 0\end{array}\right]$

而其他的列向量可以用他们进行表示：
$$b_3=-3b_1+\frac{1}{2}{b}_2$$
$$b_4=6b_1-\frac{2}{3}{b}_4$$
由于行变换不会影响列向量组的线性关系，所以源向量组满足以上所得到的关系，极大无关组是{b1,b2}\{b_1,b_2\}{b1​,b2​}