深度学习中CNN网络的感受野计算（Calculating Receptive Field of CNN）

最新推荐文章于 2024-07-29 23:06:07 发布
原创 最新推荐文章于 2024-07-29 23:06:07 发布 · 1.2k 阅读 · 2 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#感受野计算 #AlexNet #ReceptiveField

CNN的感受野计算过程，以AlexNet为例

主要参考博客1
主要参考博客2

公式来源链接

感受野概念

在卷积神经网络中，感受野（Receptive Field）的定义是卷积神经网络每一层输出的特征图（feature map）上每个像素点在原始图像上映射的区域大小，这里的原始图像是指网络的输入图像，是经过预处理（如resize，warp，crop）后的图像。

为什么要计算感受野？
因为感受野代表了深度学习网络每一层中的像素映射到输入图像的区域，感受野的大小直接影响网络层对于输入图像的特征感受级别，即每一层获得的特征（feature map）是全局的、语义层次比较高的，还是局部的、细节的特征。一般来说感受野小的时候，也就是CNN网络的头部层，其经过卷积和池化的次数较小，输出的feature map大小较大，反映的特征也更为精细和注重细节；而在CNN网络的尾部层，输入图像经过了大量的卷积和池化次数，feature map的尺寸大小降低的很小，感受野也变的很大，一个像素可以看到前部层的很大一个区域，因此这种feature map反映出来的特征更加注重整体和全局。所以这也是感受野概念的来源，精确计算感受野的大小对于设计良好的网络具有重要作用。

感受野计算公式—从第一层开始计算

最低0.47元/天 解锁文章

200万优质内容无限畅学
机器学习笔记 - 理解和计算卷积神经网络 (CNN) 中的参数数量
学以致用 知行合一
11-14 3507
让我们首先看看如何为您拥有的每种类型的层计算可学习参数的数量，然后计算示例中的参数数量。 Input layer：输入层所做的只是读取输入图像，因此这里没有您可以学习的参数。 Convolutional layers：一个卷积层，其输入为 l 个特征图，输出为 k 个特征图。 过滤器尺寸为 n x m。 例如，这将如下所示： 这里，输入有 l=32 个特征图作为输入，k=64 个特征图作为输出，滤波器大小为 n=3 x m=3。重要...
基于CNN的手写数字的识别【Tensorflow】【CNN】【图像分类】
weixin_51567500的博客
01-23 761
小白爆肝，基于Tensorflow的手写数字的识别，一看就会！ 可以完全复现的project！！！！
深度学习——深度学习中感受野的计算
知来者逆的博客
07-04 2205
在卷积神经网络中，感受野（Receptive Field）的定义是卷积神经网络每一层输出的特征图（feature map）上每个像素点在原始图像上映射的区域大小，这里的原始图像是指网络的输入图像，是经过预处理（如resize，warp，crop）后的图像。神经元之所以无法对原始图像的所有信息进行感知，是因为在卷积神经网络中普遍使用卷积层和pooling层，在层与层之间均为局部连接。神经元感受野的值越大表示其能接触到的原始图像范围就越大，也意味着它可能蕴含更为全局，语义层次更高的特征；
深度学习：如何计算感受野
小白的博客
07-29 1580
8×88×8。
how to calculate receptive field of CNN
jasonzzj的博客
06-13 1059
if layernum>len(net): layernum=len(net) outsize = 1 #for layerparams in net: for layer in reversed(range(layernum)): fsize, stride, pad = net[layer] outsize = ((outsize -1)
深度CNN感受野(Receptive Field)的计算
XindaBlack的博客
01-09 679
参考 如何计算感受野(Receptive Field)——原理 FOMORO AI -> 可视化计算感受野的网站 Python代码 import sys # VGG16为例 # k_size, stride, padding(1->"same",0->"valid") convnet = [[3,1,1],[3,1,1],[2,2,0],[3,1,1],[3,1,1],[2,2...
CNN中感受野(receptive field)及计算
Jz___
11-13 2625
感受野的概念在卷积神经网络中，感受野正式定义为: 在神经网络中，感受野的定义是： 卷积神经网络的每一层输出的特征图（Feature ap）上的像素点在原图像上映射的区域大小。
CNN 感受野计算公式
DexterLei
07-14 1万+
Calculating Receptive Field of CNN 感受野指的是一个特定的 CNN 特征（特征图上的某个点）在输入空间所受影响的区域。一个感受野可以用中信位置和打表来表征。然而，对于一个 CNN 特征来说，感受野中的每一个像素值并不是同等重要。一个像素点越接近感受野中心，它对输出特征的计算所起作用越大。这意味着某一个特征不仅仅是受限在输入图片中某个特定的区域（感受野），并且...
cnn中感受野的计算
hzhj的博客
04-09 956
    medium上的这篇文章A guide to receptive field arithmetic for Convolutional Neural Networks是目前关于感受野计算最详细的文章，其翻译详见文章卷积神经网络中的感受野计算(译)和关于卷积神经网络(CNN)中的感受野，你知道多少？    感受野（receive field）是指当前feature map中的一个原子点P与输...
CNN计算感受野
Kun Wang's 博客
03-12 465
http://shawnleezx.github.io/blog/2017/02/11/calculating-receptive-field-of-cnn/ 1、只和三个部分有关：前一层的感受野、当前层kernel size、累计stride乘积(不包含当前层） 2、当前层的stride 步长只影响下一层。 ...
CNN感受野的计算
qq_32425195的博客
10-14 191
https://fomoro.com/research/article/receptive-field-calculator#3,1,1,VALID;3,1,1,VALID;2,2,1,VALID 计算公式： http://shawnleezx.github.io/blog/2017/02/11/calculating-receptive-field-of-cnn/ Vgg16...
深度学习感受野计算公式推导（前向/反向详解）
weixin_43356770的博客
04-24 1467
感受野计算公式推导
【深度学习】SSD网络原理
heguu的博客
04-28 1036
SSD网络backbone由VGG16网络的全部卷积层，即到conv5为止，去掉之后的全连接层。如下图： 然后是 conv6:3x3x1024; conv7:1x1x1024; conv8:1x1x256,stride=1,3x3x512,stride=2,padding=1; conv9:1x1x128,stride=1,3x3x256,stride=2,padding=1; conv10:1x1x128,stride=1,3x3x256,stride=1,padding=0; conv11:1x1x1
CNN-经典网络结构-Alexnet、Vgg、Resnet、感受野
erfan_lang的博客
09-13 552
目录经典网络结构-Alexnet经典网络结构-Vgg 经典网络结构-Alexnet 经典网络结构-Vgg CNN-经典网络结构-Resnet
CNN中感受野的计算
热门推荐
kuaitoukid的专栏
07-10 4万+
感受野（receptive field）是怎样一个东西呢，从CNN可视化的角度来讲，就是输出featuremap某个节点的响应对应的输入图像的区域就是感受野。 比如我们第一层是一个3*3的卷积核，那么我们经过这个卷积核得到的featuremap中的每个节点都源自这个3*3的卷积核与原图像中3*3的区域做卷积，那么我们就称这个featuremap的节点感受野大小为3*3 如果再经过pooling
AlexNet文章解析(上)
大脸猫1314的博客
11-28 4013
入门小菜鸟一直在追深度学习有关问题，之前读了Lenet-5的文章，还有CNN训练方法的文章，最近在读ImageNet2012年获得冠军的Alexnet的文章。
【深度学习】感受野
筱
03-21 4569
感受野是卷积神经网络每一层输出的特征图（Feature Map）上的像素点在原始图像上映射的区域大小。 卷积神经网络由输入维度计算输出维度： output size = ( input size - kernel size + 2 * padding ) / stride + 1 卷积神经网络由输出维度计算输入维度： input size = （output size - 1）* strid...
感受野计算问题
deep_love1314的博客
11-17 1278
感受野计算问题
Fastai-数据准备
周先森爱吃素的博客
05-06 2099
介绍了Fastai框架下的数据准备以及数据增强的操作。
bottleneck building block感受野
最新发布
03-21
### Bottleneck Building Block 的感受野计算 在卷积神经网络 (CNN) 中，瓶颈结构（Bottleneck Building Block）是一种常见的设计模式，通常用于减少参数数量并加速推理过程。其核心思想是通过降维操作压缩输入数据的维度，在保持性能的同时降低计算成本。 #### 感受野的概念 感受野是指 CNN 卷积层中的某个节点能够感知到的原始输入图像区域大小。对于 bottleneck 结构而言，由于其内部可能包含多个卷积核尺寸以及跨层连接机制，因此其感受野的计算需要综合考虑每一层的影响[^1]。 #### Bottleneck Structure 的典型组成 以 ResNet 或 MobileNet 系列为例，典型的 bottleneck structure 可能由以下几个部分构成： 1. **1x1 Convolution**: 用于降维或升维。 2. **3x3 Convolution**: 提供主要的空间特征提取能力。 3. **1x1 Convolution**: 将特征图恢复至原来的通道数。 假设每一步都采用步幅为 `s` 的卷积运算，则整体感受野可以通过逐层累加的方式进行推导： #### 感受野的递归公式 设第 $ l $ 层的感受野为 $ R_l $ ，则有如下关系： $$ R_{l} = s \cdot R_{l-1} + k - 1 $$ 其中： - $ s $ 是当前层的 stride； - $ k $ 是当前层使用的卷积核大小。 对于 bottleneck block 来说，如果中间的 3x3 卷积使用了 stride=2 进行下采样，则该层会显著扩大整个 block 的感受野范围[^2]。 另外需要注意的是，当引入 depthwise separable convolution （如 MobileNet V2/V3 所做的改进），虽然减少了 FLOPs 数量，但由于 kernel size 不变，所以理论上的最大感受野并不会受到影响[^4]。 #### 实际案例分析 例如在一个标准的 ResNet50 架构中，第一个 bottleneck block 后面紧接着几个连续的标准 blocks 都维持相同的 spatial dimensions 。这意味着除了第一次 downsample 导致较大的初始 RF 外，后续相同配置下的 layers 对总 receptive field 的贡献相对较小一些[^3]。 ```python def calculate_receptive_field(kernel_size, stride, padding, input_rf=1): """ Calculate the effective receptive field of a single layer. Args: kernel_size (int): Size of the convolving kernel. stride (int): Stride of the convolution operation. padding (int): Zero-padding added to both sides of the input. input_rf (int): Receptive field from previous layer. Returns: int: Effective receptive field after this layer. """ return stride * input_rf + kernel_size - 2*padding - 1 # Example usage for calculating RF within a bottleneck block rf_1x1_first = calculate_receptive_field(1, 1, 0) rf_3x3_middle = calculate_receptive_field(3, 2, 1, rf_1x1_first) # Assuming strided middle conv final_rf_bottle_neck = calculate_receptive_field(1, 1, 0, rf_3x3_middle) print(f"Final Receptive Field in BottleNeck Block: {final_rf_bottle_neck}") ``` 以上代码片段展示了如何逐步计算一个简单 bottleneck block 内部各阶段后的最终感受野值。 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值