33、卷积与卷积神经网络设计详解

卷积与卷积神经网络设计详解

1. 卷积基础

1.1 张量与向量、矩阵的乘法

在卷积相关的运算中，张量与向量、矩阵的乘法是基础操作。当一个 (l\times m\times n) 的张量与一个 (m) 维向量 (\mathbf{b} 2 = [b {21}, b_{22}, \cdots, b_{2m}]) 相乘时，会生成一个 (l\times n) 的矩阵，其表达式如下：
(\mathbf{A}\mathbf{b} 2 =\begin{pmatrix}
\sum {i = 1}^{m}a_{1i1}b_{2i} & \sum_{i = 1}^{m}a_{1i2}b_{2i} & \cdots & \sum_{i = 1}^{m}a_{1in}b_{2i}\
\sum_{i = 1}^{m}a_{2i1}b_{2i} & \sum_{i = 1}^{m}a_{2i2}b_{2i} & \cdots & \sum_{i = 1}^{m}a_{2in}b_{2i}\
\vdots & \vdots & \ddots & \vdots\
\sum_{i = 1}^{m}a_{li1}b_{2i} & \sum_{i = 1}^{m}a_{li2}b_{2i} & \cdots & \sum_{i = 1}^{m}a_{lin}b_{2i}
\end{pmatrix})

当这个 (l\times m\times n) 的张量与一个 (l) 维向量 (\mathbf{b} 3 =