VGG论文精读笔记

最新推荐文章于 2025-03-03 21:10:03 发布
原创 最新推荐文章于 2025-03-03 21:10:03 发布 · 809 阅读 · 5 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

文章简介

VERY DEEP CONVOLUTIONAL NETWORKS
FOR LARGE-SCALE IMAGE RECOGNITION

该文章介绍了基于深度卷积神经网络的大规模图像分类(经典网络)，验证了卷积神经网络的深度对大规模图像分类准确率的影响。

作者：Karen Simonyan & Andrew Zisserman
单位：牛津大学(Visual Geometry Group)
论文地址

论文研究背景

自从2012年AlexNet将深度学习的方法应用 ImageNet的图像分类比赛中并取得state of the art的惊人结果后，大家开始相仿并在此基础上进行大量尝试和改进。
1. 小卷积核
在第一个卷积层用了更小的卷积核和卷积stride
2. 多尺度
训练和测试使用整张图的不同尺度
vgg作者不仅将上面的两种方法应用到自己的网络设计和训练测试阶段，同时还考虑了网络深度对结果的影响。

论文研究成果

2014年在ILSVRC比赛中获得了分类项目的第二名(第一名是GoogLeNet)，和定位项目的第一名。同时模型对其他数据集有很好的泛化能力。
VGG由于其结果简单，提取特征能力强，所以应用场景广泛。
例如：快速风格迁移算法，目标检测的backbone，提取特征(faster rcnn, ssd等)，gan网络内容特征提取，进行内容计算(内容损失是gan网络损失的一部分)。
在这里插入图片描述
进行了6组对比实验，如下图所示，包括A，A-LRN，B，C，D，E六种不同的网络结构。其中A-LRN网络在A网络的基础上加入了LRN层，B网络在A-LRN网络基础上加入了两个3x3卷积层，C网络在B网络基础上又加入了3个1x1卷积，D网络将C网络中的1x1卷积换成了3x3卷积，E网络又在D网络的基础上加入了3个3x3卷积。
在这里插入图片描述
单尺度测试结果对比
在这里插入图片描述
结论:

  1. LRN对网络性能提升没有太大作用，因此后面网络结构中没有加入LRN层(A和A-LRN对比实验得出)
  2. 加深网络深度能够提升分类精度(A和B网络对比，C网络第一组实验和A、B网络对比)
  3. 单独扩大尺度对网络性能提升没什么效果(C网络的第一组和第二组实验对比)
  4. 对于同一个网络结构多尺度训练可以提高网络精度(C网络的三组实验对比)
  5. 将1x1的卷积替换为3x3的卷积是有效的(D网络与C网络的实验对比)
  6. E模型(VGG19)效果最好，一定程度加深网络可以提高网络精度。

多尺度测试结果对比
在这里插入图片描述
结论

  1. 对比单尺度预测，多尺度综合预测能够提升预测的精度，证明了scale jittering(尺度抖动)的作用。
  2. D和E多尺度综合预测效果一样，但是E网络要比D网络深，因此D网络(VGG16)为best model。
    在这里插入图片描述
    结论： dense evaluation & multi-crop两种测试方法联合使用效果最好

模型融合结果对比
在这里插入图片描述
结论： 融合模型D和E之后模型错误率进一步下降

与其他网络结果对比
在这里插入图片描述
结论：GoogLeNet分类效果冠军，VGG亚军优于其他网络。

论文结论

  1. 在一定范围内，通过增加深度能有效地提升网络性能；
  2. 最佳模型VGG16，从头到尾只有3x3卷积与2x2池化，简洁优美；
  3. 多个小卷积核比单个大卷积核性能好(与Alexnet对比可知)；
  4. AlexNet曾经用到的LRN层并没有带来性能的提升，因此在其他组的网络中均没有出现LRN层；
  5. 尺度抖动scale jittering(多尺度训练、多尺度测试)有利于网络性能的提升。

感受野

感受野(Receptive Field)的定义是卷积神经网络每一层输出的特征图(feature map)上的像素点在输入图片上映射的区域大小。再通俗点的解释是，特征图上的一个点跟原图上有关系的点的区域。
感受野概念为什么重要？
感受野被称作是CNN最重要的概念之一，目标检测的流行算法比如SSD，Faster-Rcnn等中prior box和Anchor box的设计都是以感受野为依据进行的设计。
在这里插入图片描述
输入原始图大小为7x7，
conv1: 3x3 strides=1 valid
feature: (7-3+1) / 1 = 5
conv2: 3x3 strides=1 valid
feature: (5-3+1) / 1 = 3

原始输入感受野：1
conv1层感受野：3
conv2层感受野：5

思考：
如果conv1: 5x5 strides=1 valid 感受野是多少？
答：感受野为5

结论
1个5x5卷积核感受野大小与2个3x3卷积核的感受野等效，以此类推三个3x3的卷积核的感受野与一个7x7卷积核的感受野等效。

感受野计算公式

在这里插入图片描述
注意：这只是理论感受野，实际上起作用的感受野是小于理论感受野

论文结构

在这里插入图片描述

摘要

本文研究了在大规模图片识别中，卷积神经网络的深度对准确率的影响。我们的主要贡献是通过非常小的3x3卷积核的神经网络架构全面评估了增加深度对网络的影响，结果表明16-19层的网络可以使现有设置的网络性能得到显著提高。这项发现是我们在2014年的

最低0.47元/天 解锁文章
【图像超分】论文精读：RepSR: Training Efficient VGG-style Super-Resolution Networks with Structural Re-Paramete
主要更新底层视觉（去噪、超分等）相关的科研内容，形式为【论文精读】+【论文复现】
07-09 149
摘要： 本文提出RepSR，一种基于结构重新参数化和批量归一化（BN）的高效VGG式超分辨率网络。针对SR任务中BN易引发伪影的问题，作者通过分析发现训练-测试阶段的不一致性是主因，并提出先使用小批量统计训练、后期切换为总体统计的优化策略。RepSR块设计包含干净的残差路径和带改进BN的扩展-压缩卷积路径，有效平衡了训练非线性与推理效率。实验表明，RepSR在不同模型规模下优于现有重参数化方法，且实际推理速度更快。该工作为SR提供了性能与效率兼优的解决方案，相关代码未开源。 关键词： 超分辨率、结构重参数化
【图像超分】论文精读：ESRGAN: Enhanced Super-Resolution Generative Adversarial Networks
主要更新底层视觉（去噪、超分等）相关的科研内容，形式为【论文精读】+【论文复现】
03-30 7440
超分辨率生成对抗网络(SRGAN)[1]是一项开创性的工作，能够在单幅图像超分辨率过程中生成逼真的纹理。然而，幻觉细节往往伴随着令人不快的伪影。为了进一步提高视觉质量，我们深入研究了SRGAN的三个关键组件——网络架构、对抗性损失和感知损失，并改进它们中的每一个以获得增强的SRGAN (ESRGAN)。特别是，我们引入了无批归一化的残差密集块(RRDB)作为基本网络构建单元。此外，我们借鉴了相对论GAN[2]的思想，让鉴别器预测相对真实性而不是绝对值。
深度学习网络——vgg
无九不知名的博客
09-06 793
深度学习网络——vgg导入包VGG 网络实现构造卷积层不同 vgg 类型网络的实现 论文链接：https://arxiv.org/pdf/1409.1556.pdf 代码链接：https://pytorch.org/docs/stable/_modules/torchvision/models/vgg.html 导入包 # -*- coding:UTF-8 -*- import torch.nn as nn import torch.utils.model_zoo as model_zoo __a
【深度学习CV-baseline】VGG论文精读
白桃deep_learning博客
04-26 1214
VGG-大规模图像识别的深度卷积神经网络 一、研究背景、成果及意义 1、学习目标 这篇文章是针对卷积神经网络的深度去研究的，并且是针对大规模的图像识别任务中。 2、研究背景、成果及意义 相关研究 1、AlexNet：ILSVRC-2012分类冠军，里程牌的CNN模型 AlexNet卷积神经网络设计理念会一直沿用，前面卷积池化进行特征提取，后面FC层分类的设计思想。 2、ZFNet：ILSVRC-2013分类冠军，对AlexNet改进 仅仅是对AlexNet超参数的改变 3、OverFeat：ILSVRC
【Transformer】李沐论文逐段精读学习笔记
Zheng_LH
07-10 3033
贡献：网络简单，且跟之前的网络结构都不一样，不使用rnn或cnn的单元。并行度更好，训练快很多。在机器翻译上取得了更好的效果。本文提出的Transformer是第一个纯基于attention的序列转录模型，使用multi-head self-attention替代了之前的rnn结构。在机器翻译上，比RNN和CNN都要快，还取得了新的SOTA。介绍了传统的RNN，CNN以及encoder-decoder架构。分析了RNN的缺点：难以并行。容易遗忘。再介绍了attention机制。最后提出了一个全新的架构Tra
论文精读（笔记）
qq_38423732的博客
11-14 556
读完摘要直接跳到结论。：这样是为了了解这篇论文的标题是什么，和你的文章是不是相关，然后看一眼摘要，摘要就是比较简单的介绍一下这个论文，在做什么。最后直接跳到结论，结论通常和摘要是一样的，但是把摘要里面可能提出的一两个问题，用一些实际的结论，实际的数字证明一下。读完这三个部分，大概就知道这篇论文在干什么。然后你可以跳到一些实验部分的一些关键的图和表，然后你也可以去瞄一眼，在方法里面这些图和表是在干什么的。完成这个部分，就可以大概知道，这个论文在讲什么，质量怎么样就是结果怎么样，方法看上去怎么样，
VGG论文精读 | 翻译+学习笔记+PyTorch代码复现
智算学术的博客
03-03 1297
今天给大家带来的是在继AlexNet 神经网络后的又一神作,VGG网络由Oxford University 的 Visual Geometry Group（VGG提出，并在竞赛中取得了分类任务第二名（仅次于 GoogleNet），在目标检测任务也表现优异。论文: "Very Deep Convolutional Networks for Large-Scale Image Recognition"
【图像超分辨率重建】——EnhanceNet论文精读笔记
Sunny_Coder的博客
10-31 2006
【图像超分辨率重建】——EnhanceNet论文精读笔记
【图像超分】论文精读：SRResNet/SRGAN
主要更新底层视觉（去噪、超分等）相关的科研内容，形式为【论文精读】+【论文复现】
03-29 8016
尽管使用更快更深的卷积神经网络在单幅图像超分辨率的准确性和速度方面取得了突破，但一个中心问题在很大程度上仍未解决：当我们在大型放大因子上超分辨率时，我们如何恢复更精细的纹理细节。基于优化的超分辨率方法的行为主要是由目标函数的选择驱动的。最近的工作主要集中在最小化均方重建误差上。生成的估计具有较高的峰值信噪比，但它们通常缺乏高频细节，并且在感知上不令人满意，因为它们无法匹配更高分辨率的保真度。在本文中，我们提出了SRGAN，一种用于图像超分辨率(SR)的生成对抗网络(GAN)。据我们所知，这是第一个能够为4×
VGG论文精读
永远飞翔的鸟
05-17 296
2. 作为各类图像任务的骨干网络结构：分类、定位、检测、分割一系列图像任务大都有VGG为骨干。2. 作为各类图像任务的骨干网络结构：分类、定位、检测、分割一系列图像任务大都有VGG为骨干。2. 作为各类图像任务的骨干网络结构：分类、定位、检测、分割一系列图像任务大都有VGG为骨干。1. 开启小卷积核时代：3*3卷积核成为主流模型。1. 开启小卷积核时代：3*3卷积核成为主流模型。1. 开启小卷积核时代：3*3卷积核成为主流模型。1. 结构简洁，推理效率高，作为backbone。
经典神经网络论文超详细解读（二）——VGGNet学习笔记（翻译＋精读）
路人贾的博客
12-03 6861
VGGNet（《Very Deep Convolutional Networks For Large-Scale Image Recognition》）超详细解读（翻译＋精读总结）
【论文笔记】ResNet 精读笔记
LJR的博客
07-27 329
ResNet residual Top-1 Error 过拟合 退化问题 残差 identity mapping shortcut connection skip connection 跨层 bottleneck block 1×1卷积 计算 网络结构 经典论文 图像 CV 通道 池化 全连接 映射
论文笔记-精读-8.22-Manifold Regularized Dynamic Network Pruning
ywsdxxzj的博客
08-22 1773
论文笔记-精读-8.2-Manifold Regularized Dynamic Network Pruning 总结 关于本篇文所解决问题的总结写在前面，方便一些朋友阅读，也方便自己从具体的方法中跳脱出来，高屋建瓴、理清思路。 要解决的问题&解决的情况 问题 主要是： static prune达不到高的剪枝率，文章这是因为他们没有充分发掘输入中的信息； 方法的优缺点 直觉上，这个基于交叉熵的复杂度评估必须要等到接近收敛才能有比较好的近似，否则一开始，所有实例都拟合得不好，得到的复杂度信息肯
论文阅读笔记
qq_21696337的博客
10-24 1494
论文名称： unsupervised Learning of Monocular Depth Estimation and Visual Odometry with Deep Feature Reconstruction 1 摘要 　　尽管基于学习的方法在单视图深度估计和视觉测距中显示出有希望的结果，但是大多数现有方法以受监督的方式处理任务。最近的单视图深度估计方法通过最小化光度误差来探索在没有完...
Attention is all you need 论文精读笔记 Transformer
Haulyn5的博客
04-18 675
这篇博客主要是 Follow 李沐老师的论文精读系列，Transformer 论文精读的笔记，绝大部分内容都来自其视频，然后尽量用自己的语言记录表述。
[TRACA(CVPR2018)]论文阅读笔记
sinat_31184961的博客
04-03 901
Context-aware Deep Feature Compression for High-speed Visual Tracking 论文地址 写在前面 这是韩国首尔大学2018年CVPR上的一个工作，利用深度特征+相关滤波的形式做的，其中比较新的地方就是设计了一系列encoder来更好编码目标的特征，更加注重目标本身的一些context的信息，论文里面用了很多操作来提升精度。 Motiv...
VGG论文
weixin_42382758的博客
09-28 706
VGG论文
论文阅读|图像分类网络RepVGG，沿用VGG风格，简单强大，精度和速度上取得更好权衡。
yanghao201607030101的博客
03-04 1740
论文提出RepVGG，它仅由3×3卷积和ReLU组成，非常适用于GPU或者专用于推断的芯片。在结构化再参数方法的作用下，该简单的卷积网络在ImageNet上的top-1准确率超过了80%，并且相比SOTA模型，在精度和速度上取得更好权衡。
如何完成一篇高质量的论文（笔记）
myboyliu2007的专栏
03-01 2006
1.如何正确选题比如和同行见面都会问你是干什么的，这个选题就是你是干什么的。 1. 兴趣 选题必须是自己感兴趣的方向。 2. 选题不宜过大 初学者面临的问题，计算机识别很大 目标跟踪中3个组成部分，如果做目标跟踪外观模型的研究， 3. 选题尽量新，不宜捡矿渣 稀疏表示，07，08很火，如果你投文章的文章很多，那么编辑会很苛刻2.如何选择要精读的文献 硕士博士论文(包括国外的，基础问
VGG中英文对照论文
最新发布
11-23
<think> 嗯，用户这次的需求很明确，就是要找VGG网络的中英文对照论文。看来用户可能是计算机视觉领域的研究者或学生，需要对照阅读原始论文。不过从引用内容看，用户之前可能在查目标检测的资料，突然转向VGG，可能是研究方向的延伸。 VGG作为经典网络架构，原始论文确实值得精读。中英文对照版本对非英语母语研究者特别友好。我记得这篇论文的关键点包括：首次系统研究网络深度对性能的影响，提出3x3小卷积核的堆叠结构，在ImageNet和定位任务上取得突破。 用户没提具体版本，但根据引用中出现的VGG16，应该是指2014年ILSVRC的牛津大学论文。这篇在CV领域影响深远，引用量近十万次。用户可能要用于论文写作或复现实验，需要确保版本准确性。 中英文对照资源比较稀缺，通常需要自行整理。学术社区偶尔有人分享双语笔记，但直接提供完整论文可能涉及版权。最稳妥的方案是引导用户获取官方英文论文，再推荐辅助工具。考虑到用户可能急需，先提供官方渠道和现成的摘要对照，再补充翻译工具作为长期方案。 用户语气比较急切，回复需要简洁实用。可以强调官方arXiv链接的权威性，中文博客的解读价值，以及翻译工具的效率。暂时不需要深入技术细节，重点解决文献获取问题。后续如果用户需要论文内容解析再展开。 </think> 以下是关于获取VGG中英文对照论文的建议（基于经典VGG论文整理）： ### 1. **官方英文原版论文** 论文标题：**《Very Deep Convolutional Networks for Large-Scale Image Recognition》** 作者：K. Simonyan, A. Zisserman (牛津大学视觉几何组) 发表会议：ICLR 2015 - **获取方式**： [arXiv开源链接](https://arxiv.org/abs/1409.1556) ```plaintext https://arxiv.org/abs/1409.1556 ``` ### 2. **中英文对照资源** 目前无官方双语版本，可通过以下方式实现对照阅读： - **方法一：人工对照** 下载英文原文后，配合中文翻译博客（如[优快云](https://blog.youkuaiyun.com/)或[知乎专栏](https://zhuanlan.zhihu.com/)）搜索关键词**“VGG论文翻译”**，例如： - [《VGG论文逐段精读》](https://zhuanlan.zhihu.com/p/563314926)（含中英段落对照） - [《VGGNet论文翻译》](https://blog.youkuaiyun.com/weixin_44791964/article/details/107078618) - **方法二：工具辅助** 使用**双语翻译插件**（如Chrome的“沉浸式翻译”或“Saladict”）实时对照网页版论文。 ### 3. **核心内容对照摘要** | **英文原文** | **中文关键点** | |--------------|----------------| | **3×3 convolution filters** | **堆叠3×3小卷积核**：替代大卷积核，减少参数并增加深度 | | **Depth of networks** | **网络深度影响**：16/19层比8/11层错误率显著降低（表3） | | **Multi-scale training** | **多尺度训练**：输入图像缩放至固定尺寸（224×224） | > 引用原文结论：*"Very deep ConvNets achieve state-of-the-art results on ImageNet... localisation task winner"*[^1] > **对应翻译**：*"极深的卷积网络在ImageNet分类与定位任务中达到最佳性能"* ### 4. 重要图表参考 - **Table 1**：VGG网络配置（A-E模型） ![VGG架构图](https://miro.medium.com/v2/resize:fit:720/format:webp/1*HOBT0UM1XlU9W7nN0Mvsqw.png) - **Table 3**：深度增加对错误率的提升（VGG16 top-5 val.err=7.0%）[^2]
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值