
深度学习
Lingyun_wu
铜镜映无邪 扎马尾
展开
-
卷积神经网络的复杂度分析
在进行CNN的设计中,我们不仅要考虑模型的准确率,还需要考虑模型的实用性。现阶段大量的paper纯堆精度,缺没有深入思考模型以及算法的实用性。最近有一点感触很深:很多我们在做研究时认为默认的东西,在进行实际应用项目中,才发现这些先验数据是无法获得的,这和学术探索是很不同的。可能需要问自己,我们应该做怎样的研究者?对于CNN,网络的复杂度分析也是非常非常重要的。1、时间复杂度——计...原创 2020-03-02 18:59:44 · 1044 阅读 · 0 评论 -
【二值化网络】Back to Simplicity: 思考BNN网络的设计
Paper: https://arxiv.org/abs/1906.08637开源代码:https://github.com/hpi-xnor/BMXNet-v22019年6月19的一篇新paper。BNN用于降低成本和计算量,非常有效。作者重新思考了BNN中一些常用技术的有效性,并且为BNN网络提出了几项设计准则,并且搭建了一个BinaryDenseNet网络。主要是通过实验数据去...原创 2019-07-20 14:21:14 · 733 阅读 · 0 评论 -
【论文学习】Xception——回顾经典paper
paper:Xception: Deep Learning with Depthwise Separable ConvolutionsURL:https://arxiv.org/abs/1610.023572017年的经典paper,作者在Inception的基础上引入DW卷积提出了Xception。由于引入DW卷积,但作者的目的不是为了减少flops。所以增加了网络的宽度,所以可以认...原创 2019-08-10 00:13:17 · 635 阅读 · 0 评论 -
【人脸识别】视频帧聚合:Discriminative Aggregation Network
paper:Learning Discriminative Aggregation Network for Video-based Face Recognition论文链接:Learning_Discriminative_Aggregation_ICCV_2017同样是2017 ICCV的paper,文章提出了一个DAN(discriminative aggregation network...原创 2019-08-10 00:19:40 · 1103 阅读 · 0 评论 -
【人脸识别】set-to-set:Multicolumn Networks
paper:Multicolumn Networks for Face Recognition论文链接:https://arxiv.org/pdf/1807.09192.pdf这是一篇set-to-set的paper,作者提出了一个Multicolumn Networks,想要同时学习视觉信息和内容信息。 在原来的网络上加了“visual” quality 和 “content” qual...原创 2019-08-10 10:26:46 · 774 阅读 · 0 评论 -
【模型压缩】Deep Compression,多种方式混合经典paper
Paper:Deep Compression: Compressing Deep Neural Networks with Pruning, Trained Quantization and Huffman Coding论文链接:https://arxiv.org/abs/1510.00149ICLR 2016的best paper,通过剪枝、量化、哈夫曼编码三步混合来做模型压缩。In...原创 2019-08-10 10:38:44 · 543 阅读 · 0 评论 -
【人脸识别~采样策略】Sampling Matters in Deep Embedding Learning
Paper:Sampling Matters in Deep Embedding Learning论文链接:https://arxiv.org/abs/1706.07567开源代码:https://github.com/chaoyuaw/incubator-mxnet/tree/master/example/gluon/embedding_learning在embedding lear...原创 2019-08-10 14:06:23 · 1456 阅读 · 0 评论 -
【目标检测】ThunderNet: 超轻量型检测网络,旷视科技
paper:ThunderNet: Towards Real-time Generic Object Detection论文链接:https://arxiv.org/abs/1903.11752?context=cs.CV开源代码:https://github.com/qixuxiang/Pytorch_Lightweight_Network1不得不说,ThunderNet 做的速度...原创 2019-09-25 13:57:48 · 2857 阅读 · 0 评论 -
【模型剪枝】Network Slimming:卷积核剪枝
paper:Learning Efficient Convolutional Networks through Network Slimming这是一篇做剪枝的paper,2017的ICCV文章。主要亮点在于直接使用BN层的gamma参数进行剪枝评估。在卷积核的级别做剪枝,非常方便好用。问题:这篇paper中,Lamda的选择标准和阈值标准没有给出,应该就是作者实验试出来的。因...原创 2019-09-25 14:10:38 · 3644 阅读 · 2 评论 -
【目标检测】多尺度检测:STDN
Paper:Scale-Transferrable Object Detection论文链接:http://openaccess.thecvf.com/content_cvpr_2018/papers/Zhou_Scale-Transferrable_Object_Detection_CVPR_2018_paper.pdf这是2018年的CVPR目标检测paper,主要是多尺度问题。目...原创 2019-10-18 17:20:22 · 1163 阅读 · 0 评论 -
【人脸识别】GridFace,识别中更为细致的二次校正。旷视科技
Papaer:GridFace: Face Rectification via Learning Local Homography Transformations论文链接:https://arxiv.org/pdf/1808.06210v1.pdf旷视科技,ECCV-2018 paper。STN网络用在识别网络中,主要用于做一个二次校正。但是直接用STN学习可能会有扭曲这篇p...原创 2019-09-25 14:30:52 · 1179 阅读 · 1 评论 -
【论文学习】EfficientNet: 探讨网络depth,width和resolution之间的balance
谷歌:ICML 2019 paper:https://arxiv.org/abs/1905.11946前一阵子谷歌非常火的一篇paper,主要探讨网络的depth,width和resolution之间的balance,来获得最佳的性能。base在分类网络上,提出了Compound Model Scaling方法。Introduction作者提出了EfficientNet。...原创 2019-07-20 14:07:17 · 1260 阅读 · 1 评论 -
【轻量化网络】Xception:经典paper回顾
paper:https://arxiv.org/abs/1610.023572017年的一篇经典paper,作者在Inception的基础上提出了Xception。引入了DW卷积Xception模块一般来说,卷积核需要同时学习空间上的相关性和通道间的相关性。InceptionV3,将空间和通道的信息显示的分开处理。Inception模块首先使用1x1的卷积核将,这是在学习通道...原创 2019-07-20 13:40:37 · 771 阅读 · 0 评论 -
【论文学习】2016 CVPR 目标检测必读paper
1、Deep residual learning for image recognition 何凯明的代表作之一,获得了16年的bestpaper。文章不是针对目标检测来做的,但其解决了一个最根本的问题:更有力的特征。检测时基于Faster R-CNN的目标检测框架,使用ResNet替换VGG16网络可以取得更好的检测结果。(实际上,使用ResNet网络代替ZF, VGG, Go...原创 2019-05-14 09:44:39 · 512 阅读 · 0 评论 -
【论文学习】2017 CVPR 目标检测必读paper
1、Speed/accuracy trade-offs for modern convolutional object detectors 其主要考虑三种检测器(Faster RCNN,R-FCN,SSD)作为元结构,三种CNN网络(VGG,Inception,ResNet)作为特征提取器,变化其他参数如图像分辨率、proposals数量等,研究目标检测系统准确率与速度的权衡关系...原创 2019-05-14 09:47:36 · 491 阅读 · 0 评论 -
【论文学习】2018 CVPR 目标检测必读paper
1、Cascade R-CNN Delving into High Quality Object Detection. Cascaded RCNN这篇文章的出发点非常有意思,是通过分析输入proposal和ground truth的IOU与检测模型采用的用于界定正负样本的IOU关系得到结论:当一个检测模型采用某个阈值(假设u=0.6)来界定正负样本时,那么当输入proposal的...原创 2019-05-14 09:49:12 · 532 阅读 · 0 评论 -
【论文学习】行人检测——CVPR:通过MIMS在低分辨率图像中做行人检测
论文:Pedestrian Detection in Low-resolution Imagery by Learning Multi-scaleIntrinsic Motion Structures (MIMS) 通过学习多尺度固有运动结构,在低分辨率图像中做行人检测由于地面采样距离(GSD)低,图像帧速率低,检测距离大幅面广域图像距离的行人是一个具有挑战性的问题。...原创 2019-05-14 10:35:31 · 4387 阅读 · 0 评论 -
【论文学习】行人检测——CVPR Deep Learning Strong Parts for Pedestrian Detection
paper:Deep Learning Strong Parts for Pedestrian Detection目录主要解决的问题提出的解决办法1、现阶段对于阻塞问题的处理方法2、文章创新点3、训练部分池过程4、深模型中的移位处理5、学习过程6、遗留问题主要解决的问题 做行人检测时,将CNN的主要特征转移给了行人,但无法做遮挡处理。提出...原创 2019-05-15 15:43:16 · 1380 阅读 · 0 评论 -
【论文学习】快速卷积方法——Winograd 变换
论文:Fast Algorithms for Convolutional Neural Networks本博客关注于论文中Winograd 变换部分 在1D,2D和多维度中,最小算法需要等于输入数量的多次乘法。 换句话说,为了计算F(m,r),我们必须访问m + r-1个数据值的间隔,并且为了计算F(m×n,r×s),我们必须访问(m + r- 1)×(n + s-1)数...原创 2019-05-12 16:47:11 · 3920 阅读 · 0 评论 -
【论文学习】人脸识别——DeepFace:深度学习人脸识别开山之作
大家好,从今天开始就要学习人脸识别相关的知识啦,以后也会分享这一类的文章。人脸识别,必不可少的是Facebook AI研究院的这篇。论文:DeepFace: Closing the Gap to Human-Level Performance in Face Verification[cite] Taigman Y, Yang M, Ranzato M A, et al. Deepface...原创 2019-06-19 23:05:00 · 16356 阅读 · 2 评论 -
【论文学习】人脸识别——FaceNet:超级经典的paper(triplet loss)
又是超级经典的一篇人脸识别paper,提供了一种端到端的处理,提出了新颖的loss function,好文值得多读!FaceNet这篇paper是2015年的论文,实验效果非常好,在LFW中达到了99.63%的精度。实现了利用端到端的网络学习在欧式距离空间的128维人脸特征向量。并提出了triplet loss,通过loss函数直接学习embedding feature,并且优化fea...原创 2019-06-25 21:02:35 · 2178 阅读 · 0 评论 -
【论文学习】STN —— Spatial Transformer Networks
Paper:Spatial Transformer Networks这是Google旗下 DeepMind 大作,最近学习人脸识别,这篇paper提出的STN网络可以代替align的操作,端到端的训练实现图片的align。实际使用的过程中不需要landmarks也可以做align了,而且还可以并联多个,这对于多个物体非常适用,而且,输出的feature大小可以变换,这一点也很灵活。提出...原创 2019-06-26 11:12:21 · 2003 阅读 · 2 评论 -
【论文学习】C-FAN:视频人脸识别,component-wise,特征聚合网络
原文地址:https://arxiv.org/pdf/1902.07327.pdf这是一篇2019的cvpr paper,在视频人脸识别中,输入一组图片,输出的单个特征向量。主要是增加了一个聚合模块,用来学习component feature的质量。在feature的前一层,同时输出feature和quality信息,以提高后续metric learning的精度。摘要 ...原创 2019-07-02 18:09:57 · 2183 阅读 · 0 评论 -
【论文学习】人脸识别 —— Deep Face Recognition: A Survey. 新人必看入门总结
最近看了很多人脸识别loss相关和GAN相关的paper,但是没有提纲挈领的把这些串起来,今天看到了这篇综述,里面虽然介绍的比较复杂,不过总结的还是非常明晰的。Paper: Deep Face Recognition: A Survey链接:https://arxiv.org/pdf/1804.06655.pdf 摘取了自己感兴趣的几部分,分享给大家,主要讲一下大的框架吧目录人...原创 2019-06-27 19:43:41 · 5795 阅读 · 0 评论 -
【论文学习】目标检测 —— FCOS:CVPR 2019关于one-stage和anchor-free最新实用算法
Paper:FCOS: Fully Convolutional One-Stage Object Detection,CVPR 2019URL: https://arxiv.org/pdf/1904.01355.pdf Code is available at: tinyurl.com/FCOSv1这篇文章是单阶段的目标检测算法,基于anchor-free思想,效果非常好,达到4...原创 2019-06-29 18:24:10 · 1591 阅读 · 0 评论 -
【论文学习】轻量级网络——MobileNetV3终于来了(含开源代码)
论文名称:《Searching for MobileNetV3》感谢github上大佬们开源,开源代码整理如下:(1)PyTorch实现1:https://github.com/xiaolai-sqlai/mobilenetv3(2)PyTorch实现2:https://github.com/kuan-wang/pytorch-mobilenet-v3(3)PyTorch实现...原创 2019-05-13 18:45:43 · 93566 阅读 · 28 评论