【Mimic】《Mimicking Very Efficient Network for Object Detection》

最新推荐文章于 2022-03-11 21:55:12 发布
最新推荐文章于 2022-03-11 21:55:12 发布
阅读量1.1k 收藏 3
点赞数
CC 4.0 BY-SA版权
分类专栏： CNN / Transformer
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/bryant_meng/article/details/83422938

CVPR论文解读：非常高效的物体检测Mimic方法

二次学习（周志华教授）、knowledge distilling（Geoffrey Hinton）

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

实验比较多，但是抓住重点

  • 比用imagenet 预训练的效果好
  • 和baseline（big network）性能相仿，但是模型大大压缩
  • 注意 1/2 其实参数量减少了 1/4，因为卷积是在两层之间
  • 学backbone最后一层 feature map 结果比较好
  • 可以偷师，就是 big network 和 small network 的 backbone 不同
  • 最多减少了 1/8

在这里插入图片描述

目标检测 cvpr iccv eccv最新进展，包含代码
xiao__run的博客
05-21 5090
object-detection Contents: R-CNN Fast R-CNN Faster R-CNN Light-Head R-CNN Cascade R-CNN SPP-Net YOLO YOLOv2 YOLOv3 SSD DSSD FSSD ESSD MDSSD Pelee R-FCN FPN RetinaNet MegDet DetNet ZSD Based on han...
2019年目标检测论文汇总
风骚的小柴犬
12-12 2223
object-detection [TOC] This is a list of awesome articles about object detection. If you want to read the paper according to time, you can refer toDate. R-CNN Fast R-CNN Faster R-CNN Mask R-CNN...
Mimicking Very Efficient Network for Object Detection
05-17
新的深度学习文献本篇文章是Mimicking方法在检测任务上的尝试。mimicking作为一种模型压缩的方法，采用大网络指导小网络的方式将大网络习得的信息用小网络表征出来，在损失较小精度的基础上大幅提升速度。 Mimicking方法通常会学习概率输出的前一层，被称为"Deep-ID"，这一层的张量被认为是数据在经过深度网络后得到的一个高维空间嵌入，在这个空间中，不同类的样例可分性要远超原有表示，从而达到表示学习的效果。本文作者提出的mimicking框架则是选择检测模型中基础网络输出的feature map进行学习Mimic作为一种模型小型化的方法，Hinton在 Distilling the Knowledge in a Neural Network一文中已经详细定义并介绍过，但近些年来大部分有关于mimic的论文主要都是局限在较为简单的classification 的任务中，而对于较为复杂一些的detection任务，直接套用以前的方案则显得不行。本文提出了一种学习feature map来实现Object Detection任务上mimic的方法。
【论文笔记】非常高效的物体检测mimic方法 Mimicking Very Efficient Network for Object Detection
Tiffany的博客
09-07 1838
转载：http://www.sohu.com/a/160564635_651893 AI科技评论按：CVPR 2017正在夏威夷火热进行中，精彩论文层出不穷。下文是Momenta 高级研发工程师蒋云飞对此次 CVPR 收录的 Mimicking Very Efficient Network for Object Detection 论文进行的解读。 背景 Mimic作为一
Mimicking Very Efficient Network for Object Detection 论文翻译
shaohehe的博客
08-16 396
[2017CVPR]Mimicking very efficient network for object detection 论文笔记
weixin_45750753的博客
03-11 424
目录出发点Method总结 出发点 作者的出发点是，现有的检测backbone都是分类那边过来的，但是这些网络分类效果好，检测不一定就是最好的。假如我想要设计并找到一个更有效的网络，我们都需要预先在ImageNet上训练这些模型然后再检测任务上进行微调，这往往需要训练特别久，并且作者还发现小网络在ImageNet训练的结果并不好，在这上面再在检测任务上微调效果也不好。所以，作者提出了别的方式来获得预训练权重：用一个检测效果很好的网络来指导其他小检测网络训练，并确保两者检测性能差不多。 即：在原有GT训练的基
CVPR论文解读：非常高效的物体检测Mimic方法
weixin_33910460的博客
08-01 529
雷锋网 AI科技评论按：虽然CVPR 2017已经落下帷幕，但对精彩论文的解读还在继续。下文是Momenta高级研发工程师蒋云飞对此次大会收录的 Mimicking Very Efficient Network for Object Detection 一文进行的解读。 背景 Mimic作为一种模型小型化的方法，Hinton在Distilling th...
目标检测(Object Detection)算法合集（持续更新ing）
阿木寺的博客
07-14 7611
object-detection This is a list of awesome articles about object detection. R-CNN Fast R-CNN Faster R-CNN Light-Head R-CNN Cascade R-CNN SPP-Net YOLO YOLOv2 YOLOv3 YOLT SSD DSSD FSSD ESSD MDSSD Pel...
【Distill 系列：一】bmvc2019 Learning Efficient Detector with Semi-supervised Adaptive Distillation
鹿鹿的博客
01-07 1084
bmvc 2019 motivation more attention paid on two types of hard samples: hard-to-learn samples predicted by teacher with low certainty hard-to-mimic samples with a large gap between the teacher’s and t...
《Quantization Mimic: Towards Very Tiny CNN for Object Detection》的阅读总结
fish_like_apple的博客
09-10 1687
前言： {     此文为论文《Quantization Mimic: Towards Very Tiny CNN for Object Detection》的阅读总结。     此论文的主题是速度和结构的优化，而不是提高准确率；综合了两种方式：Quantization（量化）和Mimic（模仿）。     论文地址：https://arxiv.org/pdf/1805.02152.pdf...
目标检测论文解读四（检测蒸馏论文三篇）
蓝鲸鱼的博客
08-11 925
在论文中，作者使用蒸馏来训练基于CNN的检测器，不需要ImageNet预训练。 具体来说： 从整个feature map中采样的特征进行模拟，并使用变换层将小网络中的特征映射到大网络的同维上。 在训练小网络时，优化了两个网络的特征图上来自同一区域的特征之间的相似性。 ...
CVPR2017 2D目标检测相关论文
burning_keyboard的博客
10-08 2859
CVPR2017 2D目标检测相关论文 梗概总结
YOLO_Online 将深度学习最火的目标检测做成在线服务实战经验分享
算法攻城狮
10-27 3927
部分 YOLO 结果： YOLO_Online 将深度学习最火的目标检测做成在线服务 第一次接触 YOLO 这个目标检测项目的时候，我就在想，怎么样能够封装一下让普通人也能够体验深度学习最火的目标检测项目，不需要关注技术细节，不需要装很多软件。只需要网页就能体验呢。 在踩了很多坑之后，终于实现了。 效果： 1.上传文件 2.选择了一张很多狗的图片 3.YOLO...
卷积神经网络的压缩和加速
SIGAI_优快云的博客
06-26 1万+
原创声明：本文为 SIGAI 原创文章，仅供个人学习使用，未经允许，不能用于商业目的。 其它机器学习、深度学习算法的全面系统讲解可以阅读《机器学习-原理、算法与应用》，清华大学出版社，雷明著，由SIGAI公众号作者倾力打造。 书的购买链接 书的勘误，优化，源代码资源 相关背景 为什么要对网络进行压缩和加速呢？最实际的原因在于当前存储条件和硬件的计算速度无法满足复杂网络...
（五）目标检测新趋势拾遗
女王の专属领地
04-11 1211
转载自知乎：https://zhuanlan.zhihu.com/p/34142321 关于作者： @李家丞同济大学数学系本科在读，现为格灵深瞳算法部实习生。 -------------------------------------------------------------------------------------------- 近年来，深度学习模型逐渐取代传统机器视觉方法而成...
【Tiny CNN】《Quantization Mimic: Towards Very Tiny CNN for Object Detection》
bryant_meng
11-13 1231
ECCV-2018 文章目录1 Background and Motivation2 Innovation3 Advantages / Contributions4 Methods4.1 Quantization4.2 Mimic4.3 Quantization + Mimic5 Datasets6 Experiments6.1 WIDER FACE6.2 PASCAL VOC7 Conclu...
Object Detection清单
lien0906的专栏
03-20 3965
HOMECATEGORIESARCHIVESLINKSSEARCHABOUT MEObject Detection Published: 09 Oct 2015  Category: deep_learningJump to...PapersR-CNNFast R-CNNFaster R-CNNLight-Head R-CNNCascade R-CNNMultiBoxSPP-NetMR-CNNYO...
视频物体检测文献阅读笔记
Wayne2019的博客
01-06 3158
Impression Network for Video Object Detection 基于印象机制的高效多帧特征融合，解决defocus and motion blur等问题（即视频中某帧的质量低的问题），同时提高速度和性能。 类似TSN，每个segment选一个key frame（注意，TSN做视频分类是在cnn最后才融合不同的segments）。特征融合前需要用Optical
干货 | 目标检测入门，看这篇就够了（下）
热门推荐
AI科技大本营
03-17 1万+
作者 | 李家丞（ 同济大学数学系本科在读，现格灵深瞳算法部实习生）近年来，深度学习模型逐渐取代传统机器视觉方法而成为目标检测领域的主流算法，本系列文章将回顾早期的经典工作，并对较新的趋势做一个全景式的介绍，帮助读者对这一领域建立基本的认识。（营长注：因本文篇幅较长，营长将其分为上（点击查看）、下两部分。）导言：目标检测的任务表述如何从图像中解析出可供计算机理解的信息，是机器视觉的中心问题。深度学
MIMIC数据代码库版本概览与解析
资源摘要信息:"MIMIC数据代码库是针对MIMIC（Medical Information Mart for Intensive Care）数据集的代码集合，MIMIC数据库是一个大规模的、单一中心的、免费的ICU（重症监护室）数据库，包含来自波士顿贝斯以色列...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值