卷积神经网络

原创已于 2024-03-18 11:55:51 修改 · 1.8k 阅读

CC 4.0 BY-SA版权

文章标签：

于 2024-03-08 00:21:31 首次发布

7 篇文章

订阅专栏

卷积神经网络（Convolutional Neural Network，CNN）是一类专门用于处理具有类似网格结构的数据的深度学习模型。它在计算机视觉领域取得了巨大成功，广泛应用于图像识别、物体检测、语义分割等任务。

LeNet-5

CNN的主要特点包括：

卷积层（Convolutional Layer）： CNN使用卷积操作来提取图像中的特征。卷积操作通过滤波器（也称为卷积核）在输入图像上滑动，每次计算一小块区域的加权和，从而生成输出特征图。这有助于网络捕捉局部空间关系。
池化层（Pooling Layer）： 池化层用于降低特征图的空间维度，减少计算复杂性。常用的池化操作包括最大池化和平均池化，它们分别取邻域中的最大值或平均值。
非线性激活函数： CNN使用非线性激活函数（如ReLU）引入非线性特性，使网络能够学习更复杂的映射关系。
全连接层（Fully Connected Layer）： 在提取了图像特征后，通常会通过全连接层将这些特征映射到最终的输出层，用于分类或回归任务。
多层网络结构： CNN通常由多个卷积层和池化层交替堆叠而成，以提高网络的表达能力。深层网络能够学习更加抽象和复杂的特征。
权重共享： 在卷积层中，卷积核的参数是共享的，这意味着它们在整个图像上进行滑动时使用相同的权重。这减少了参数数量，有助于提高模型的泛化能力。

卷积层是卷积神经网络（CNN）中的核心组件之一，它负责提取输入数据的局部特征，从而构建更高级的表示。卷积层通过卷积操作在输入数据上滑动卷积核（也称为过滤器），计算每个位置的加权和，生成输出特征图。

以下是卷积层的关键概念：

卷积操作：卷积操作是卷积层的核心。它涉及在输入数据上滑动卷积核，并在每个位置上计算卷积核与输入数据的元素乘积之和。这个过程可以被表示为：

其中 I 是输入数据，K 是卷积核，( i , j ) 是输出特征图中的位置。
步幅（Stride）：步幅定义了卷积核在输入数据上滑动的步长。较大的步幅可以减小输出特征图的尺寸，而较小的步幅会导致更多的重叠。步幅的选择影响了输出特征图的空间维度。
填充（Padding）：为了保持输入和输出的尺寸相近，可以在输入数据的边界周围添加零值（零填充）。填充有助于防止特征图尺寸减小过快，同时保留输入数据边缘的信息。
多通道输入与输出：输入数据和卷积核可以是多通道的。对于彩色图像，通常有三个通道（红色、绿色、蓝色），每个通道上都有一个卷积核。卷积操作对每个通道分别进行，然后将结果相加得到单个输出通道。
权重共享：卷积层的参数共享是指卷积核的参数在整个输入图像上是共享的。这减少了参数数量，有助于减少过拟合，并使网络更具有平移不变性。

池化层（Pooling Layer）是卷积神经网络（CNN）中的一种常见层，其主要作用是通过减小特征图的空间维度，降低计算负担，同时保留重要的特征信息。池化层也被称作下采样层，池化操作通常在卷积层之后应用。

常见的池化操作包括最大池化（Max Pooling）和平均池化（Average Pooling）：

在池化操作中，同样可以设置池化窗口的大小和步幅。池化窗口的大小决定了每次池化操作选择的区域大小，而步幅定义了池化窗口在特征图上滑动的步长。

主要优点和作用包括：

全连接层（Fully Connected Layer），也称为密集连接层或全连接层，是深度学习神经网络中的一种基本层类型。在全连接层中，每个神经元与前一层的所有神经元相连接，形成全连接的结构。这样，全连接层将输入数据映射到输出层，每个神经元对应一个输出。

全连接层通常用于网络的最后几层，将前面层提取的特征整合到最终输出。在卷积神经网络（CNN）中，全连接层通常用于将卷积层和池化层提取的高级特征映射到最终的输出类别或值。

以下是全连接层的主要特点和作用：

权重共享：在全连接层中，每个神经元与前一层的所有神经元相连接，其权重是可学习的参数。这种连接方式导致参数数量很大，容易导致过拟合。权重共享是指这些权重在整个层中是共享的，这有助于减少模型的参数数量。
非线性激活函数：在全连接层中，通常会在神经元输出后应用非线性激活函数，如ReLU（Rectified Linear Unit）或Sigmoid，以引入网络的非线性特性。
特征整合：全连接层将前一层提取的特征整合到最终的输出。这有助于网络学习输入数据的复杂关系，并在分类任务中生成适当的输出。
输出层设计：在分类问题中，全连接层的最后一层通常是输出层，包含与类别数量相同的神经元。对于回归问题，输出层通常只有一个神经元。
Dropout：为了防止过拟合，全连接层中常常使用Dropout技术，即在训练过程中以一定的概率随机将某些神经元的输出置零，强制网络更加鲁棒。