东南风的博客

姊妹篇：ILSVRC2016目标检测任务回顾——视频目标检测（VID）        计算机视觉领域权威评测——ImageNet大规模图像识别挑战赛（Large Scale Visual Recognition Challenge）自2010年开始举办以来，一直备受关注。2016年，在该比赛的图像目标检测任务中，国内队伍大放异彩，包揽该任务前五名（如图1所示）。我们将根据前五名参赛队伍提交的摘要与...

http://blog.youkuaiyun.com/diamonjoy_zone/article/details/70576775参考：1. Inception[V1]: Going Deeper with Convolutions2. Inception[V2]: Batch Normalization: Accelerating Deep Network Training by Reducing Int...

    自2012年Alexnet赢得了ImageNet竞赛以来，深度学习（神经网络）得到了飞速发展，产生了许多的神经网络结构，本文主要总结Caffe中使用的神经网络(分类的神经网络)，本文的神经网络作者都使用Caffe训练过，并在Kaggle的Intel癌症预测比赛中进行了测试与使用（top 8%）。1. AlexnetAlexnet，2012年ImageNet竞赛冠军，深度学习的里程碑。网络结...

1 引言深度学习目前已经应用到了各个领域，应用场景大体分为三类：物体识别，目标检测，自然语言处理。上文我们对物体识别领域的技术方案，也就是CNN进行了详细的分析，对LeNet-5 AlexNet VGG Inception ResNet MobileNet等各种优秀的模型框架有了深入理解。本文着重与分析目标检测领域的深度学习方法，对其中的经典模型框架进行深入分析。目标检测可以理解为是物体识别和物体...

You Only Look Once: Unified, Real-Time Object DetectionAbstract作者提出了一种新的物体检测方法YOLO。YOLO之前的物体检测方法主要是通过region proposal产生大量的可能包含待检测物体的 potential bounding box，再用分类器去判断每个 bounding box里是否包含有物体，以及物体所属类别的 pro...

前言目前在深度学习领域分类两个派别，一派为学院派，研究强大、复杂的模型网络和实验方法，为了追求更高的性能；另一派为工程派，旨在将算法更稳定、高效的落地在硬件平台上，效率是其追求的目标。复杂的模型固然具有更好的性能，但是高额的存储空间、计算资源消耗是使其难以有效的应用在各硬件平台上的重要原因。最近正好在关注有关深度学习模型压缩的方法，发现目前已有越来越多关于模型压缩方法的研究，从理论研究到平台实现，...

前言上一章，将基于核的稀疏化方法的模型压缩方法进行了介绍，提出了几篇值得大家去学习的论文，本章，将继续对深度学习模型压缩方法进行介绍，主要介绍的方向为基于模型裁剪的方法，由于本人主要研究的为这个方向，故本次推荐的论文数量较多，但都是非常值得一读的。基于模型裁剪的方法对以训练好的模型进行裁剪的方法，是目前模型压缩中使用最多的方法，通常是寻找一种有效的评判手段，来判断参数的重要性，将不重要的conne...

前言在前两章，我们介绍了一些在已有的深度学习模型的基础上，直接对其进行压缩的方法，包括核的稀疏化，和模型的裁剪两个方面的内容，其中核的稀疏化可能需要一些稀疏计算库的支持，其加速的效果可能受到带宽、稀疏度等很多因素的制约；而模型的裁剪方法则比较简单明了，直接在原有的模型上剔除掉不重要的filter，虽然这种压缩方式比较粗糙，但是神经网络的自适应能力很强，加上大的模型往往冗余比较多，将一些参数剔除之后...

本文结构：我的阅读笔记  1.ResNet之Building block  2.ResNet之CIFAR-10实验结构其他资料  1.ResNet作者何凯明博士在ICML2016上的tutorial演讲  2.Bottleneck  3.diss ResNet的论文论文翻译---------------------------------------------------------------...

论文地址：Deep Residual Learning for Image Recognition     ResNet——MSRA何凯明团队的Residual Networks，在2015年ImageNet上大放异彩，在ImageNet的classification、detection、localization以及COCO的detection和segmentation上均斩获了第一名的成绩，而且...

前言        自从AlexNet一举夺得ILSVRC 2012 ImageNet图像分类竞赛的冠军后，卷积神经网络（CNN）的热潮便席卷了整个计算机视觉领域。CNN模型火速替代了传统人工设计（hand-crafted）特征和分类器，不仅提供了一种端到端的处理方法，还大幅度地刷新了各个图像竞赛任务的精度，更甚者超越了人眼的精度（LFW人脸识别任务）。CNN模型在不断逼近计算机视觉任务的精度极限...

回到顶部一. 算法概述本文提出的SSD算法是一种直接预测目标类别和bounding box的多目标检测算法。与faster rcnn相比，该算法没有生成 proposal 的过程，这就极大提高了检测速度。针对不同大小的目标检测，传统的做法是先将图像转换成不同大小（图像金字塔），然后分别检测，最后将结果综合起来（NMS）。而SSD算法则利用不同卷积层的 feature map 进行综合也能达到同样的...

目录作者及相关链接方法概括方法细节实验结果总结参考文献  作者及相关链接作者：作者链接：代季峰，何恺明，孙剑论文链接：论文传送门代码链接：matlab版，python版方法概括R-FCN解决问题——目标检测整个R-FCN的结构一个base的conv网络如ResNet101, 一个RPN（Faster RCNN来的）,一个position sensitive的prediction层，最后的ROI p...

  这里主要说下该论文的hard mining过程：  先上图，如Figure2所示：  从图中可以看出，本文的亮点在于在每次迭代中，较少训练样本下，如何hard negative mining，来提升效果。  即针对Fast-RCNN框架，在每次minibatch（1张或者2张）训练时加入在线筛选hard region的策略，达到新的SoA。需要注意的是，这个OHEM适合于b...

论文题目：Feature Pyramid Networks for Object Detection论文链接：论文链接论文代码：Caffe版本代码链接tensorflow:实现FPN的代码细节https://github.com/yangxue0827/FPN_Tensorflow/blob/master/libs/rpn/build_rpn.py 一、FPN初探1. 图像...

对《Learning Deep Features for Discriminative Localization》的剖析一个最近的使用例子是吴恩达公司做的肺炎诊断准确率超过人类医生在这篇论文中，认为图片在经过卷积层的特征提取后，通过CAM，除了不弱的分类精度外，还能对分类的依据进行定位，相当于诠释网络是如何做出分类判断的。CAM的核心部分如下图：在卷积层之后，使用了一个叫GAP的池，全称...

  deconv解卷积，实际是叫做conv_transpose, conv_transpose实际是卷积的一个逆向过程，tf 中， 编写conv_transpose代码的时候，心中想着一个正向的卷积过程会很有帮助。想象一下我们有一个正向卷积: input_shape = [1,5,5,3] kernel_shape=[2,2,3,1] strides=[1,2,2,1] padding = "...

一.CNN发展纵览   我们先来看一张图片：  1985年，Rumelhart和Hinton等人提出了后向传播（Back Propagation，BP）算法（也有说1986年的，指的是他们另一篇paper：Learning representations by back-propagating errors)，使得神经网络的训练变得简单可行，这篇文章在Google Scholar上的引用次数达到了...

论文：ShuffleNet: An Extremely Efficient Convolutional Neural Network for Mobile Devices 论文链接：https://arxiv.org/abs/1707.01083算法详解： ShuffleNet是Face++的一篇关于降低深度网络计算量的论文，号称是可以在移动设备上运行的深度网络。这篇文章可以和MobileNet、...

0. 背景获得2014年ImageNet挑战赛(ILSVRC14)第一名，google出品 paper地址：going deeper with convolutions caffe网络结构地址：train_val.prototxt1. 主要贡献保证计算资源不变（cpu/memory）的基础上，增加了神经网络的深度和宽度。网络共使用了 22 层隐层，用于classification & ...

Object Detection------------------------------------update: 2018.5.07 Mon-------------------------------------PapersR-CNNFast R-CNNFaster R-CNNLight-Head R-CNNCascade R-CNNMultiBoxSPP-NetMR-CNNYOLOYOL...

Cascade R-CNN: Delving into High Quality Object Detection In object detection, an intersection over union (IoU) threshold is required to define positives and negatives. An object detector, trained wit...

一、VOC2007数据集简介一般来说，对于目标检测任务来讲，我们只需要如此啊三个文件夹JPEGImages、Annatations、ImageSets，下面分别来讲。1)JPEGImages文件夹文件夹里包含了训练图片和测试图片，混放在一起2)Annatations文件夹文件夹存放的是xml格式的标签文件，每个xml文件都对应于JPEGImages文件夹的一张图片3)ImageSets文件夹Act...

CNN从2012年的AlexNet发展至今，科学家们发明出各种各样的CNN模型，一个比一个深，一个比一个准确，一个比一个轻量。 作者对近几年一些具有变革性的工作进行简单盘点，从这些充满革新性的工作中探讨日后的CNN变革方向。 本文只介绍其中具有代表性的模型，一些著名的模型由于原理相同将不作介绍，若有遗漏也欢迎指出。 作者：Professor ho 知乎：http://suo.im/16NMWy 一...

Beyond Skip Connections: Top-Down Modulation for Object Detection CVPR2017 under review code ：(coming soon) 可以结合 Feature Pyramid Networks for Object Detection 阅读大牛 Jitendra Malik 竟然都去 Google Researc...

这篇论文是CVPR2017年的文章，采用特征金字塔做目标检测，有许多亮点，特来分享。论文：feature pyramid networks for object detection 论文链接：https://arxiv.org/abs/1612.03144论文概述：作者提出的多尺度的object detection算法：FPN（feature pyramid networks）。原来多数的obje...

论文地址：YOLO9000: Better, Faster, Stronger        项目主页：YOLO: Real-Time Object DetectionYOLO9000是CVPR2017的最佳论文提名。首先讲一下这篇文章一共介绍了YOLOv2和YOLO9000两个模型，二者略有不同。前者主要是YOLO的升级版，后者的主要检测网络也是YOLOv2，同时对数据集做了融合，使得模型可以...

     ResNet在2015年被提出，在ImageNet比赛classification任务上获得第一名，因为它“简单与实用”并存，之后很多方法都建立在ResNet50或者ResNet101的基础上完成的，检测，分割，识别等领域都纷纷使用ResNet，Alpha zero也使用了ResNet，所以可见ResNet确实很好用。 下面我们从实用的角度去看看ResNet。1.ResNet意义随着网络...

论文下载Going deeper with convolutionsgoogle在ILSVRC14比赛中获得冠军的一个模型。GoogLeNet, 一个22层的深度网络。GoogLeNet模型的参数量只是两年前该项赛事的冠军Krizhevsky参数量的1/12，大大降低了网络的复杂度，甚至还达到了比Krizhevsky更高的精度。此篇论文讨论的就是如何有效的控制computation cost，降低...

论文地址：YOLO9000: Better, Faster, Stronger 项目主页：YOLO: Real-Time Object Detection（最近博客下很多人请求Caffe 代码，受人所托，已经不再提供，且关闭本文评论，望请见谅）概述时隔一年，YOLO（You Only Look Once: Unified, Real-Time Object Detection）从v1版本进化到...

参考： https://zhuanlan.zhihu.com/p/28749411 https://zhuanlan.zhihu.com/p/28186857 https://blog.yani.io/filter-group-tutorial/ https://www.zhihu.com/question/54149221 http://blog.youkuaiyun.com/guvcolie/articl...

背景论文地址：Aggregated Residual Transformations for Deep Neural Networks 代码地址：GitHub 这篇文章在 arxiv 上的时间差不多是今年 cvpr 截稿日，我们就先理解为是投的 cvpr 2017 吧，作者包括熟悉的 rbg 和何凯明，转战 Facebook 之后代码都放在 Facebook 的主页里面了，代码也从 ResNet...

Inception v1的网络，主要提出了Inceptionmodule结构（1*1，3*3，5*5的conv和3*3的pooling组合在一起），最大的亮点就是从NIN（Network in Network）中引入了1*1 conv，结构如下图所示，代表作GoogleNet假设previous layer的大小为28*28*192，则，a的weights大小，1*1*192*64+3*3*192...

        对于去噪自编码器，网上好多都是利用全连接神经网络进行构建，我自己写了一个卷积、反卷积形式的去噪自编码器，其中的参数调优如果有兴趣的话，可以自行修改查看结果。数据集使用最简单的mnist：网络结构：mnist输入（28*28=784向量） => 28*28*1矩阵 => 卷积层1 => 14*14*64 => 卷积层2 => 7*7*64...