深度学习中的线性知识很多,这里不一一列举,只说几个重点内容。
线性相关与生成子空间
向量与向量组
首先解释什么是向量,向量是nnn个有次序的数a1,a2,⋯ ,an\mathrm{a_1},\mathrm{a_2},\cdots,\mathrm{a_n}a1,a2,⋯,an所组成的数组称为nnn维向量,一般把它表示为列向量:
a=[a1a2⋮an]
a=\left[
\begin{matrix}
\mathrm{a_1} \\
\mathrm{a_2}\\
\vdots \\
\mathrm{a_n} \\
\end{matrix}
\right]
a=⎣⎢⎢⎢⎡a1a2⋮an⎦⎥⎥⎥⎤
若干个同维维数的列向量所组成的集合叫向量组,mmm个nnn维列向量所组成的向量组A:a1,a2,⋯ ,ana_1,a_2,\cdots,a_na1,a2,⋯,an构成一个m×nm\times nm×n矩阵,表达如下:
A=(a1,a2,⋯ ,an)
A=(a_1,a_2,\cdots,a_n)
A=(a1,a2,⋯,an)
线性组合
给定一个向量组A:a1,a2,⋯ ,ana_1,a_2,\cdots,a_na1,a2,⋯,an,对于任何一组实数k1,k2,⋯ ,knk_1,k_2,\cdots,k_nk1,k2,⋯,kn,表达式:
k1a1+k2a2+⋯+knan
k_1a_1+k_2a_2+\cdots+k_na_n
k1a1+k2a2+⋯+knan称为向量组A的一个线性组合,这组实数称为这个线性组合的系数。