
深度学习
文章平均质量分 92
GillianZhu
这个作者很懒,什么都没留下…
展开
-
知识蒸馏Knowledge Distillation论文汇总
FITNETS: HINTS FOR THIN DEEP NETS论文链接该论文扩展了知识蒸馏的方法,student网络比teacher更深、更“瘦”,不仅使用teacher的输出作为训练student的soft targets,而且使用teacher学到的中间表示(intermediate representations)作为hint,改进学生的训练过程和最终表现。更深的模型泛化性能更好,使...原创 2020-02-14 19:53:44 · 1964 阅读 · 0 评论 -
去雨总结(更新中)
单张图像去雨问题定义常用数据集指标雨水模型全监督方法采用多阶段的方式或encoder-decoder的架构,用全卷积学习雨图到无雨图的映射或残差。目前论文中使用的模块大致可看作分别用于解决两个问题:定位雨水和保留背景信息定位雨水需要扩大感知野、得到丰富的contextual info,用到的模块主要有:定位雨水需要扩大感知野、得到丰富的contextual info,用到的模块主要...原创 2020-01-06 19:00:05 · 16437 阅读 · 4 评论 -
【论文阅读】Semi-supervised Transfer Learning for Image Rain Removal
论文发表于CVPR2019论文链接以往的去雨方法需要收集大量的合成雨图和无雨图,使得神经网络倾向于学习到合成雨水的特有的式样,但是在不太一样的真实雨水面前,则显得缺少泛化能力。该论文提出一种半监督的方法, 将真实雨图(无需对应的无雨图)加入训练集,将雨图和无雨图之间的残差视为一个参数化雨水分布,网络可以通过有监督的合成雨水来适应真实无监督多种雨类型,这样缺少训练样本和真实与合成数据之间存在差别...原创 2020-01-06 18:37:32 · 2919 阅读 · 2 评论 -
【论文阅读】Clearing the Skies: A deep network architecture for single-image rain removal
论文发表于TIP2017,第一次将深度学习用于单张图像去雨论文链接本文的主要贡献如下:使用CNN,从数据中直接学习干净图和雨图的detail层之间的非线性映射;同时使用图像增强来提升视觉效果;速度快使用图像处理领域知识来修改目标函数提升去雨性能,而不是通过增加神经元数量或者加深隐藏层合成数据集上训练,真实场景中的泛化性能也很好模型在detail层上进行去雨假设输入...原创 2019-12-30 18:14:17 · 1601 阅读 · 0 评论 -
【论文阅读】Single Image Deraining: A Comprehensive Benchmark Analysis
论文发表于CVPR2019论文链接该论文对现有的单张图像去雨模型进行了综合的学习和评估,总结了目前存在的雨图模型,提出了一个大规模的benchmark,包括一个大数据集和多个涉及不同方面的评价指标雨图模型rain streak雨线图可以表示为干净背景B和稀疏的线型雨水S的线性叠加:raindrop雨点图可以视为干净背景B和分散的、小范围、局部区域的雨点带来的模糊效果的组合:M是...原创 2019-12-23 21:30:05 · 1694 阅读 · 0 评论 -
【论文阅读】DerainCycleGAN
论文DerainCycleGAN: An Attention-guided Unsupervised Benchmark for Single Image Deraining and Rainmaking于2019.12.15收录于arxiv论文链接原创 2019-12-23 21:06:33 · 2762 阅读 · 3 评论 -
【论文阅读】Density-aware Single Image De-raining using a Multi-stream Dense Network
论文发表于CVPR2018原创 2019-11-11 22:41:53 · 739 阅读 · 0 评论 -
【论文阅读】Recurrent Squeeze-and-Excitation Context Aggregation Net for Single Image Deraining
作者认为现有去雨模型存在两个问题:空间情境信息利用不足。很多模型在图像的patch上学习去雨,无法捕获更大范围内的情境信息因为雨水方向和形状上的复杂性,将去雨视为多阶段任务是很自然的事情,但是许多模型将不同的阶段视为独立的,没有考虑它们之间的联系基于以上问题,作者提出了RESCAN (REcurrent SE Context Aggregation Net)。该论文的主要贡献在于:使...原创 2019-12-16 18:08:22 · 1325 阅读 · 0 评论 -
【论文阅读】Progressive Image Deraining Networks: A Better and Simpler Baseline
目录论文发表于CVPR2019。去雨深度模型越来越复杂多样,难以分析不同网络模块的作用。该论文则从网络结构、输入输出、损失函数这几个方面提出更好且更简单的baseline。网络结构:不断拆分一个浅层ResNet得到PRN得以利用递归计算。在此基础上加入一层RNN挖掘不同阶段之间的深层特征。内部递归计算还可以显著减少网络参数。输入输出:每个阶段的结果和雨图作为每个ResNet的输入,输出残差...原创 2019-12-15 16:08:01 · 5183 阅读 · 1 评论 -
【论文阅读】U-Net: Convolutional Networks for Biomedical Image Segmentation
这个结构包括一个捕捉上下文的收缩路径和能够精准定位的对称扩展路径全卷积神经网络的主要思想是通过连续的层实现压缩网络(contracting network),pooling都被替换为上采样。这些层增大了输出的分辨率。为了定位,来自压缩路径的高分辨率的特征与上采样的输出结合,连续的卷积层就可以学会基于该信息形成更准确的输出该结构很重要的一个改进是,在上采样部分,也有很多特征通道,使得网络可以将情...原创 2019-12-09 18:37:07 · 516 阅读 · 0 评论 -
【operations】Non-local Neural Network&Densely Connected CNN
用博客记录一下提升神经网络整体性能的一些通用操作~Non-local Neural Networks不论是作用在空间还是时间,CNN和RNN操作都总是在建立一次只处理一个局部邻近区域的块,此时若想捕捉长距离依赖,只能通过不断重复这些操作,在数据中逐步传递信号。但这种方式计算复杂,优化困难,特别是对于多跳依赖模型(multi-hop,如信息在远距离的位置之间来回传递)。论文提出了能捕捉长距离...原创 2019-11-25 16:00:57 · 342 阅读 · 0 评论 -
【论文阅读】Deep Joint Rain Detection and Removal from a Single Image
发表于CVPR2017原创 2019-11-24 23:55:54 · 3469 阅读 · 3 评论 -
【论文阅读】Gated Context Aggregation Network for Image Dehazing and Deraining
论文发表于WACV 2019原创 2019-11-04 21:14:34 · 6696 阅读 · 3 评论 -
【论文阅读】Heavy Rain Image Restoration-Integrating Physics Model and Conditional Adversarial Learning
发表于CVPR2019原创 2019-11-04 20:52:04 · 2441 阅读 · 4 评论 -
斯坦福CS231n听课笔记
课程视频链接目录Lec 1 计算机视觉简介历史Lec2 图像分类的流程图像分类的流程图形分类中可能出现的问题图像分类的尝试KNN如何设置超参线性分类Lec3 损失函数和优化损失函数正则化优化其他Lec4 反向传播&神经网络反向传播Lec5 卷积神经网络全连接层卷积层池化层趋势Lec6 训练神经网络(1)激活函数sigmoidtanhReLuLeaky ReLuPReLuELUmaxout...原创 2019-10-14 17:57:26 · 1743 阅读 · 0 评论