Distilling & Exploring

最新推荐文章于 2024-02-21 15:51:06 发布
原创 最新推荐文章于 2024-02-21 15:51:06 发布 · 240 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

介绍了两篇CVPR19文章，第一篇将Knowledge distillation用于目标检测，通过关注teacher model检测相邻anchor帮助student model模仿；第二篇探索context信息对检测的作用，结论是其难处理localization error，在区分前景和背景上有一定作用。

Distilling Object Detectors with Fine-grained Feature Imitation

Exploring the Bounds of the Utility of Context for Object Detection

两篇CVPR19文章。 没细看， 主要是关注一下他们做的方向和提出的一些结论。

第一篇是Knowledge distillation的应用， teacher model辅助student model学习， 一般是用于轻量化网络设计。这里应该是首次将该方法用于detection。核心思想是‘since detectors care more about local object regions, the discrepancy of feature response on close anchor locations near the object alsoconveys important information about how a complex detection model detects the object instances’，关注teacher model是如何检测相邻anchor的有助于帮助student model更好的模仿。

 

第二篇是探索context信息对于检测来说究竟有没有用， 有多大的作用？ 大致的结论是context信息很难处理localization error,  在分变前景和背景上有一些作用。

知识蒸馏: Distilling the Knowledge in a Neural Network(下)
新兴IT民工的专栏
03-27 1585
上面两篇文章已经把知识蒸馏这篇论文说的差不多了，只剩下最后一点，这一篇文章全部说完。上一篇说到了通用+专用模型的方式如何划分数据。接下来就说这种模型集成的方式的性能了。
神经网络的量化与压缩：模型优化与部署
AI天才研究院
12-30 1100
1.背景介绍 神经网络在近年来取得了巨大的进步，成为了人工智能领域的核心技术。然而，随着模型规模的增加，神经网络的计算开销也随之增加，这给模型的部署和实际应用带来了很大的挑战。因此，模型优化和压缩成为了研究的热点。本文将介绍神经网络的量化与压缩技术，以及如何进行模型优化和部署。 2.核心概念与联系
Distilling Object Detectors with Fine-grained Feature Imitation(2019 CVPR KD)
落了一地秋的博客
08-30 1547
@[TOC](Distilling Object Detectors with Fine-grained Feature Imitation(2019 CVPR KD)) Abstract 我们表明，将传统的知识蒸馏应用到检测模型中可以获得较小的增益。针对检测模型中知识提取的挑战，提出了一种利用特征响应的交叉位置差异的细粒度特征模仿方法。我们的直觉是，探测器更关心局部近目标区域。因此，近目标锚位置上的特征响应的差异揭示了教师模型倾向于如何概括的重要信息。我们设计了一种新的机制来估计这些位置，并让学生模型在
[目标检测知识蒸馏2] [CVPR19] Distilling Object Detectors with Fine-grained Feature Imitation
Zhang Junjian的专栏
08-30 1589
目标检测知识蒸馏
Distilling Object Detectors with Fine-grained Feature Imitation
Sundrops的专栏
10-30 2040
Motivation 检测起更focus在物体出现的区域 Detectors care more about local near object regions. 物体出现的周围特征变化其实包含了更多重要信息，这是student网络需要向teacher网络学习的 注解： 与分类不同，蒸馏方法在检测中如果进行全特征模仿的话对子网络的提升很有限(这里存疑，文章没有明确指出全特征模仿了哪些特征层)。...
Distilling Object Detectors with Fine-grained Feature Imitation(2019年)
weixin_43238909的博客
02-21 1229
对于模型量化来说，一种很有前途的端到端直接学习紧凑模型的高级方法是知识蒸馏。学生模型学习更强的教师网络的行为以获得增强的泛化能力。然而，先前关于知识蒸馏的工作大多致力于分类，很少考虑目标检测。一个检测模型可能只涉及几个类，用这些类可以从教师软化输出的类间相似性中提取出更少的知识。此外，除了分分类之外，检测还需要可靠的定位，基本的蒸馏不能用于提取定位知识。此外，前景和前景实例的极度不平衡也会导致边界框注释。我们发现仅仅增加蒸馏损失只会对学生产生轻微的促进作用。
yolov5使用知识蒸馏
weixin_41981679的博客
02-22 6799
本文介绍的论文《Distilling Object Detectors with Fine-grained Feature Imitation》即是基于 Fine-grained Feature Imitation 技术的目标检测知识蒸馏方法。该方法将 Fine-grained Feature Imitation 应用于学生模型的中间层，以捕捉更丰富的特征信息。
Exploring and Distilling Posterior and Prior Knowledge for Radiology Report Generation
qq_45645521的博客
03-15 1927
Exploring and Distilling Posterior and Prior Knowledge for Radiology Report Generation（探索和提炼后验和先验知识的放射学报告生成）先验与后验目前的放射学报告生成的局限性Paper的贡献模型详解模型输入模型主要部分 先验与后验 在阅读这篇Paper之前，我们首先需要明确什么是先验和后验。先验是指根据以往经验和分析，而后验是指基于新的数据，对原来的先验修正。 通俗而言， 先验知识：这些柿子红了，肯定已经熟了 后验知识：我刚刚吃
【论文笔记】Exploring and Distilling Posterior and Prior Knowledge for Radiology Report ... (CVPR 2021)
Kqp12_27的博客
05-08 1892
【论文笔记】Exploring and Distilling Posterior and Prior Knowledge for Radiology Report Generation (CVPR 2021) 论文原文：https://arxiv.org/pdf/2106.06963.pdf 参考：https://blog.youkuaiyun.com/qq_45645521/article/details/123493075 先验知识：这些柿子红了，肯定已经熟了 后验知识：我刚刚吃了柿子，已经熟透了  
计算机视觉论文总结系列（三）：OCR篇
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
04-14 2万+
本篇主要介绍OCR论文总结，主要从OCR论文、模型方法、论文链接进行全面总结介绍，重点论文已标注✨，部分内容取自本人专栏《深入浅出OCR》系列，上述内容后续会继续更新，欢迎大家订阅学习交流，感谢批评指正！
Distilling-Object-Detectors:CVPR 2019 论文 Distilling Object Detectors with Fine-grained Feature Imitation 的实现
07-24
我们的 CVPR 2019 论文 Distilling Object Detectors with Fine-grained Feature Imitation 的实现 我们提出了一种基于锚点的对象检测模型的通用蒸馏方法，以利用大型教师模型的知识获得增强的小型学生模型，该模型是正交的，可以进一步与量化和剪枝等其他模型压缩方法相结合。 香草知识蒸馏技术的关键观察是预测置信度的类间差异揭示了笨拙的模型如何趋于泛化（例如，当输入实际上是一只狗时，模型将在猫标签上放置多少置信度）。 虽然我们的想法是物体附近特征响应的位置间差异也揭示了检测器倾向于泛化的程度（例如，模型的响应对于不同的近物体锚点位置有何不同）。 我们发布了基于 shufflenet 的检测器和基于VGG11的Faster R-CNN 的提取代码，该代码库实现了基于Faster R-CNN模仿。 检查以获取基于 Shufflene
CVPR学习（四）：CVPR2019-目标检测
TheDayIn_优快云的博客
07-03 6421
一阶段算法 一种从零开始训练的目标探测器 ScratchDet，充分利用原始图像信息的 Root-ResNet，结合 ResNet 与 VGGNet 加强对小目标的检测 京东 AI 研究院、中国科学院、中山大学 ScratchDet: Training Single-Shot Object Detectors from Scratch Rui Zhu, Shifeng Zhang, ...
Distilling Object Detectors with Fine-grained Feature Imitation的复现
一路狂奔的猪的博客
07-08 3941
复现基于原文开源代码：https://github.com/twangnh/Distilling-Object-Detectors 代码问题和细节可以在我的github讨论： https://github.com/HqWei/Distillation-of-Faster-rcnn 这篇文章的本质是对于目标检测在Feature Level的蒸馏的改进，你首先得实现检测的特征图层面的蒸馏，实现起...
[2019CVPR]Distilling Object Detectors with Fine-grained Feature Imitation 论文笔记
weixin_45750753的博客
03-12 475
标题Method1.anchor选择2.特征蒸馏实验总结 一句话总结：针对anchor-based检测器进行特征蒸馏，并且只蒸馏GT和anchor之间IOU高的地方的特征，具体含义见论文可视化图。 Method 1.anchor选择 anchor分布为H×W×K，其中H和W表示生成anchor的特征图的宽高，K表示特征图一个点上anchor的个数。计算所有anchor与GT的IOU，得到一个H×W×K的IOU map，然后，常规想法是直接取个固定阈值然后保留IOU高于阈值的anchor，作者的做法是去IOU
【CVPR2019_论文汇总】（按方向划分，0401 更新中）
热门推荐
maweifei的博客
04-01 3万+
转载链接：http://bbs.cvmart.net/topics/302/cvpr2019paper 作为计算机视觉领域三大顶会之一，CVPR2019（2019.6.16-6.19在美国洛杉矶举办）被CVers 重点关注。目前CVPR 2019 接收结果已经出来啦，相关报道：1300篇！CVPR2019接收结果公布，你中了吗？ 开设此帖希望可以实时跟进CVPR2019的即时信息及相关优秀论文，...
《Distilling Object Detectors with Fine-grained Feature Imitation》论文笔记
m_buddy的博客
12-28 1748
代码地址：Distilling-Object-Detectors 1. 概述 导读：这篇文章是在two stage检测网络Faster RCNN基础上使用知识蒸馏改进亲轻量级网络性能。其中的核心思想是teacher网络中需要传递给student网络的应该是有效的信息，而非无效的背景区域信息，因而文章将backbone输出的特征图与RPN网络输出的结果进行组合，从而得到student网络应该学习的...
Distilling Object Detectors with Fine-grained Feature Imitation论文解读
qq_35778890的博客
11-29 1868
论文链接 文章目录1.简介2.方法 1.简介 对于以往应用于知识蒸馏的目标检测存在两种方法。第一种来自于论文FitNets: Hints for Thin Deep Nets，是一种基于特征模仿的方法，单纯基于特征模仿的方法，论文中表述为Hint learning的方法会导致性能下降，因为检测模型不同于分类模型，检测模型的检测器更关注实际目标所覆盖的局部区域，而分类模型更专注于全局的纹理。因此，使用特征模仿的方法会导致引入检测模型原本不需关注区域的噪声，从而导致检测性能下降。 整体框架如图1所示： 对于上
【Distill 系列：二】CVPR 2019 Distilling Object Detectors with Fine-grained Feature Imitation
鹿鹿的博客
01-09 2102
cvpr 2019 detectors care more about local near object regions motivation Fitnets: Hints for thin deep nets hint learning 利用网络中间层 teacher & student feature map L2 loss 分析 feature map 整体做 hint 不好，...
Object Detection(目标检测神文)
初学者的博客
01-17 5323
https://blog.youkuaiyun.com/hw5226349/article/details/81906882?utm_source=blogxgwz5   目标检测神文，非常全而且持续在更新。转发自：https://handong1587.github.io/deep_learning/2015/10/09/object-detection.html，如有侵权联系删除。 更新时间： 201...
Distilling Image Dehazing With Heterogeneous Task Imitation
最新发布
07-03
Distilling Image Dehazing with Heterogeneous Task Imitation method 是一种利用知识蒸馏技术来提升图像去雾性能的方法。这种方法的核心思想是通过模仿不同但相关的任务的知识，将教师模型中的有用信息转移到学生模型中[^2]。 在具体实现上，该方法设计了一个多任务学习框架，其中包含了多个辅助任务，这些任务虽然与图像去雾不直接相关，但是能够提供有助于去雾任务的特征表示。通过这种方式，学生模型不仅学习到了如何执行主要的去雾任务，同时也学会了如何处理那些辅助任务，从而增强了整体的泛化能力和鲁棒性。 此外，这种方法还采用了对抗训练策略，以进一步提高生成图像的质量。通过引入一个判别器来区分真实无雾图像和生成的去雾图像，促使生成器产生更加逼真的结果。 值得注意的是，这种基于异构任务模仿的图像去雾蒸馏方法不需要明确地估计视差，这减少了计算复杂度，并且使得算法更适合于实际应用场合。它提供了一种新颖的方式来整合来自不同领域的知识，为解决单幅图像去雾问题提供了新的视角。 由于其开源特性，研究人员可以访问提供的代码库来进行实验、调整参数以及探索更多可能的应用场景。 ```python # 示例伪代码展示基本结构 class DistillationModel: def __init__(self): # 初始化教师模型和学生模型 self.teacher_model = ... self.student_model = ... def train(self, data_loader): for images in data_loader: # 从教师模型获取软标签 teacher_outputs = self.teacher_model(images) # 学生模型前向传播 student_outputs = self.student_model(images) # 计算损失函数，包括主任务损失和辅助任务损失 loss = calculate_loss(student_outputs, teacher_outputs) # 反向传播更新权重 update_weights(loss) def calculate_loss(student, teacher): # 损失函数通常包含主任务损失和知识蒸馏损失 main_task_loss = ... kd_loss = ... return main_task_loss + kd_loss ```
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值