44、3D卷积神经网络与循环神经网络在图像分类和交通流量预测中的应用

3D卷积神经网络与循环神经网络在图像分类和交通流量预测中的应用

1. 3D卷积神经网络用于高光谱图像分类

1.1 网络结构

• 池化层 ：采用最大池化方法，目的是对前一层特征图进行子采样，减小其尺寸。公式如下：
  [F^l_j = s(g(F^{l - 1}_i)+b^l_j), i = 1, \cdots, p; j = 1, \cdots, q]
  其中 (g(x)) 表示三维子采样操作，将前一层特征图 (F^{l - 1}_i) 划分为多个小的三维立方体，将每个立方体的最大值映射到输出特征图。
• 全连接层 ：若前一层的每个特征图是三维立方体，需先将其展平为向量。然后向量的每个值与全连接层的所有单元相连，公式为：
  [f^l = s(W^lg^{l - 1}+b^l)]
  其中 (g^{l - 1}) 是前一层展平后的向量，(W^l) 是连接权重矩阵。
• 分类器 ：使用Softmax分类器进行三维卷积神经网络的分类，模型公式如下：
  [y^L=\frac{1}{\sum_{j = 1}^{numclass}e^{w_j^Tf^l}}\begin{bmatrix}e^{w_1^Tf^l}\e^{w_2^Tf^l}\\vdots\e^{w_{numclass}^Tf^l}\end{bmatrix}]
  其中 (numclass) 表示分类问题中的类别数，输出 (y^L) 是每个样本的向量，向量中的值表示所有类别的概率，向量中最大值所在的位置即为样本的标签。采用小批量梯度下降法训练模型