27、线性代数基础与应用解析

线性代数基础与应用解析

1. 基本定义

在有限维欧几里得空间的线性代数中，我们主要关注列向量。给定两个 $d$ 维向量 $u, v \in R^d$，它们的内积定义为：
$\langle u, v \rangle = \sum_{i=1}^{d} u_i v_i$
向量的欧几里得范数（也称为 $\ell_2$ 范数）为 $|u| = \sqrt{\langle u, u \rangle}$，同时我们也会使用 $\ell_1$ 范数 $|u| 1 = \sum {i=1}^{d} |u_i|$ 和 $\ell_{\infty}$ 范数 $|u|_{\infty} = \max_i |u_i|$。

$R^d$ 的子空间是 $R^d$ 的一个子集，它在加法和标量乘法下是封闭的。一组向量 $u_1, \ldots, u_k$ 的张成空间是包含所有形如 $\sum_{i=1}^{k} \alpha_i u_i$（其中 $\alpha_i \in R$）的向量的子空间。

向量集 $U = {u_1, \ldots, u_k}$ 是线性无关的，如果对于每个 $i$，$u_i$ 不在 $u_1, \ldots, u_{i - 1}, u_{i + 1}, \ldots, u_k$ 的张成空间中。如果 $V$ 是 $U$ 中向量的张成空间，我们称 $U$ 张成子空间 $V$。如果 $U$ 既线性无关又张成 $V$，则称 $U$ 是 $V$ 的一个基。$V$ 的维数是 $V$ 的基的大小，并且可以证明 $V$ 的所有基的大小相同。如果对于所有 $i \neq j$，$\langle u_i, u_j \rangle = 0$，则称 $U$ 是正交向量集。如果