数学基础 - 线性空间（Vector Space）

线性空间(Vector Space)

---

定义(Definition)

设V是一个非空集合，P是一个域：

• 加法：$\forall \; \alpha,\beta \in V$，总有唯一元素$\gamma \in V$与之对应，称为$\alpha$与$\beta$的和，记作$\gamma = \alpha + \beta$。
• 纯量乘法（数量乘法）：$\forall \; k \in P$，$\forall \; \alpha \in V$，总有唯一元素$\delta \in V$与之对应，称为$k$与$\alpha$的积，记作$\delta = k\alpha$。
• 加法与纯量乘法满足下列条件（设$\alpha , \beta , \gamma \in V \quad and \quad k,l \in P$）：
  
  • $\alpha + \beta = \beta + \alpha$
  • $(\alpha + \beta) + \gamma = \alpha + (\beta + \gamma)$
  • $\exists \text{零元素} {\bf 0} \in V, \forall \alpha \in V \implies \alpha + {\bf 0} = \alpha$
  • $\forall \alpha \in V, \exists \beta \in V, \alpha + \beta = 0$，则称$\beta$为$\alpha$的负元素，记作$-\alpha$
  • 对P中单位元1，有$1\alpha = \alpha$
  • $(kl)\alpha = k(l\alpha)$
  • $(k + l)\alpha = k\alpha + l\alpha$
  • $k(\alpha + \beta) = k\alpha + k\beta$

则称V为域P上的一个向量空间（线性空间）。加法与纯量乘法称为线性运算。

本质：$\forall (\alpha , \beta \in V), \forall (k , l \in P)$，都有$k\alpha + l\beta \in V$

---

线性相关/无关(Linear Dependence/Independence)

如果V是一个线性空间，如果存在不全为零的系数$c_1,c_2,\cdots,c_n \in F$，使得$c_1{\bf v_1} + c_2{\bf v_2} + \cdots + c_n{\bf v_n} = 0$，那么其中有限多个向量${\bf v_1,v_2,\cdots,v_n}$称为线性相关的。

反之，称这组向量线性无关的。更一般的，如果有无穷多个向量，我们称这无穷多个向量是线性无关的，如果其中任意有限多个都是线性无关的。

---

基与维数(Basis and Dimension)

在线性空间V中，如果存在n个元素$\alpha_1,\alpha_2,\cdots,\alpha_n$，满足：

• $\alpha_1,\alpha_2,\cdots,\alpha_n$线性无关
• $\forall \alpha \in V$，都可由$\alpha_1,\alpha_2,\cdots,\alpha_n$线性表示

那么，$\alpha_1,\alpha_2,\cdots,\alpha_n$称为线性空间V的一个基，n称为线性空间V的维数，空间V称为由基$\{\alpha_1,\alpha_2,\cdots,\alpha_n\}$张成的线性空间，记作$V = span\{\alpha_1,\alpha_2,\cdots,\alpha_n\}$。

性质：$V = \{x|x = c_1\alpha_1 + c_2\alpha_2 + \cdots + c_n\alpha_n, \; c_i \in R, \; i = 1,2,\cdots,n \}$

坐标：若V是一个线性空间，$\{\alpha_1,\alpha_2,\cdots,\alpha_n\}$是线性空间V的一组基，对于$\alpha \in V$，如果有$\alpha = x_1\alpha_1 + x_2\alpha_2 + \cdots + x_n\alpha_n$，那么其标识系数所构成的n为实向量$(x_1,x_2,\cdots,x_n)$称为$\alpha$在基$\{\alpha_1,\alpha_2,\cdots,\alpha_n\}$下的坐标。所以，线性空间的元素称为向量。

---

范数(Norm)

在线性空间V中定义一种运算 $||.||:V \to R$，$\forall \alpha , \beta \in V \; , \; c \in R$ 满足：

• 正定性：$||\alpha|| \geq 0, \quad \text{若} ||\alpha|| = 0 \iff \alpha = {\bf 0}\text{(零向量)}$
• 正齐次性：$||c\alpha|| = |c| \, ||\alpha||$
• 次可加性（三角不等式）：$||\alpha + \beta|| \leq ||\alpha|| + ||\beta||$

则称$||.||$为线性空间V的一个范数（模），这样的V称为赋范矢量空间(Normed Vector Spaces)。在赋范矢量空间中的元素$\alpha , \beta \in V$，定义$||\alpha - \beta||$为$\alpha , \beta$之间的距离。

矩阵Frobenius范数

$$||A||_F = \sqrt{\sum_{i,j} a_{i,j}^{2}}$$