CNN步长卷积计算公式和strided convolution

本文深入探讨了卷积神经网络(CNN)中的卷积操作,包括无填充、填充及跳格卷积的不同形式,详细解释了如何通过调整步长(stride)和填充(padding)来控制输出特征图的尺寸。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

上图展示的是CNN卷积神经网络中卷积的过程,

定义输入矩阵为I (n×n),卷积核为F (f×f),输出矩阵为 O :

则卷积的过程为:Conv(I,W)=O

对于卷积,由浅入深三种形式,

Convolution operation without padding: filter, 单格平移,新图片缩小
Convolution operation with padding: padding 补齐外围pixel,新图片大小保持不变
Strided Convolution:跳格平移(2格或更多),新图片加倍缩小

其中,对于卷积计算后输出矩阵和输入矩阵不一致,当我们需要获取和input尺寸相同的Output时,padding就用上场了。padding是在原始input的周围进行填充,以保证卷积后的大小与原始 input 一致,让模型能足够深,如下图所示:

而Strided Convolution其实就是在过滤器移动过程中进行跳格计算,stride具备跳格能力,避免重复计算。

stride也会影响feature map的规模,例如stride=2时大概会使feature map规模缩小为1/2的大小。

输出图片几种情况下的尺寸计算公式,其中s为步长stride,p的值不固定,只是满足输出和输入尺寸相同情况下的padding值 p= (f-1)/2。

no padding: n - f + 1
padding: n + 2p - f + 1
跳格计算stride with padding: (n + 2p - f)/s + 1

还有一种情况是发生filter出格的情况

下图是吴恩达网易云课堂上的一个例子,

当n=7,p=0,f=3,s=3时,按照跳格计算公式得到的是个小数,长宽尺寸不自然。同时,从图中可以看到,s=3时,第一次filter从2开始,第二次是4,第三次从9开始,发生出格,出格部分没有真实数据,因此采用floor处理出格部分,即忽略第三次计算。
出格情况计算公式: np.floor((n + 2p - f)/s + 1)

对于刚才的情况,floor((n + 2p - f)/s + 1)=floor((7+0-3)/3+1)=2,即filter在第一行只进行了2次计算。

<think>好的,我需要回答用户关于转置卷积卷积的区别及应用场景的问题。首先,我得回顾一下用户提供的引用内容,特别是引用[2]引用[3],因为这两个引用直接提到了这两个概念。 根据引用[2],反卷积(Deconvolution)这个术语最早出现在Zeiler的论文中,用于神经网络的可视化。而转置卷积(Transposed Convolution分数步长卷积(Fractional Strided Convolution)是反卷积的其他名称。这里似乎指出转置卷积卷积是同一个概念的不同叫法,但用户的问题是关于它们的区别,所以可能存在需要澄清的地方。 接下来,引用[3]提到,反卷积CNN可视化中实际上是卷积的转置操作,而不是数学上的逆运算。同时,转置卷积在这里被用作上采样的一种方法,比如在图像分割或生成模型中。这暗示转置卷积可能更多是指技术实现中的转置操作,而反卷积可能是一个更广泛的概念,但有时候被混用。 我需要明确区分这两个术语。根据我的知识,转置卷积在数学上是通过对卷积核进行转置并使用步长来扩大输入尺寸的操作,而反卷积在数学上本应是卷积的逆运算,但在深度学习中通常指的是转置卷积。可能存在术语的混淆,需要指出这一点。 应用场景方面,引用[3]提到了三个方面:无监督学习中的稀疏编码、CNN可视化上采样。转置卷积主要用于上采样生成模型,而反卷积在文献中有时可能指不同的操作,但实际使用中两者常被混用。 因此,我的回答需要明确: 1. 转置卷积卷积深度学习中的常见用法,指出它们的区别更多是术语上的,但有时可能有不同含义。 2. 转置卷积的具体数学操作应用场景。 3. 反卷积在数学上的原始意义与深度学习中的实际应用的区别。 4. 应用场景如生成模型、图像分割等。 需要确保回答结构清晰,分点说明概念、区别应用场景,并正确使用LaTeX格式,引用用户提供的引用内容,并在末尾添加相关问题。</think>### 转置卷积与反卷积的区别及应用场景 #### 1. **基本概念** - **转置卷积(Transposed Convolution)** 是一种通过调整卷积核的排列方式实现输入特征图尺寸放大的操作。数学上,其核心是**对标准卷积的矩阵运算进行转置**。例如,标准卷积的矩阵形式为$Y = WX + b$,则转置卷积可表示为$X' = W^T Y'$。它通过填充(padding)步长stride)的调整实现上采样,常用于图像生成或分割任务[^2][^3]。 - **反卷积(Deconvolution)** 在数学上本应指卷积运算的逆运算(即解卷积),但在深度学习中这一术语常被**误用**为转置卷积的同义词。例如,Zeiler在CNN可视化中使用的“反卷积”实质是转置卷积操作,而非数学上的逆运算[^2][^3]。 #### 2. **核心区别** | 特性 | 转置卷积 | 反卷积(数学定义) | |---------------------|-----------------------------------|-----------------------------------| | **数学本质** | 卷积核的转置运算 | 严格意义上的卷积逆运算 | | **实现目标** | 上采样或特征图尺寸放大 | 从输出恢复原始输入信号 | | **深度学习中的应用**| 广泛用于生成模型、图像分割等任务 | 极少直接使用,多被转置卷积替代 | #### 3. **应用场景** - **转置卷积的典型应用** - **图像生成**:如GAN中生成高分辨率图像,通过转置卷积逐步扩大特征图尺寸。 - **语义分割**:在U-Net等模型中,通过转置卷积恢复空间分辨率以实现像素级预测。 - **特征可视化**:将深层特征映射回像素空间,解释网络的学习模式[^3]。 - **反卷积的原始意义** 数学上的反卷积在信号处理中用于去模糊或消除卷积效应,但在深度学习中几乎不直接应用,仅作为术语与转置卷积混淆使用[^2][^3]。 #### 4. **实现对比** - **转置卷积步长与填充** 若标准卷积步长为$s$,转置卷积通过插入$s-1$个零实现输入扩大。例如,输入尺寸为$n$,输出尺寸为$n' = s(n-1) + k$($k$为卷积核大小)[^3]。 - **代码示例(PyTorch)** ```python import torch.nn as nn # 转置卷积层:输入通道1,输出通道1,核大小3,步长2 transposed_conv = nn.ConvTranspose2d(1, 1, kernel_size=3, stride=2) ``` ---
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值