Convolutional Neural Networks at Constrained Time Cost(精读)

最新推荐文章于 2019-05-12 21:36:55 发布
转载 最新推荐文章于 2019-05-12 21:36:55 发布 · 110 阅读 · 0
文章标签：

#数据库 #人工智能

本文探讨了在保持计算复杂度不变的情况下，通过调整模型深度和卷积模板参数以提高卷积神经网络(CNN)准确率的方法。文章通过大量实验验证了不同参数对网络性能的影响，并在ImageNet2012数据集上展示了改进模型的有效性。

一.文献名字和作者

    Convolutional Neural Networks at Constrained Time Cost，CVPR 2015
   

二.阅读时间

     2015年6月30日


三.文献的目的

    作者希望在保持计算复杂度的前提下，通过改动模型深度和卷积模板的參数来提高CNN的准确率。作者通过大量的实验来找到网络结构中不同的參数的重要性，并在ImageNet2012数据集上面取得有竞争力的效果。


四.文献的贡献点

    作者的贡献主要在于通过各种对照实验来说明不同的參数对于准确率的影响。理论方面的贡献点比較少。

作者通过实验。得到以下两个关于深度的现象：1.深度是影响准确率的第一要素；2.虽然深度是十分重要的，可是假设深度过深的话。准确率也会出现下降的情况。

五.使用的数据库

    ImageNet2012数据集



六.实验结果

    主要部分还是各种改动后的模型的对照。与主流算法的对照主要集中在准确率不低的同一时候，计算复杂度也比較低。





版权全部，欢迎转载。转载请注明出处，谢谢微笑














深度学习研究理解9：Convolutional Neural Networks at Constrained Time Cost
whiteinblue的专栏
02-04 6000
本文是MSRA的何恺明在14年写的论文，通过一系列的替换实验，探讨了在限定复杂度和时间上，如何设计卷积网络结构，使得网络的性能最好。本文提出的CNN结构，在单个GPU上训练3到4天，在简单的10-view测试下获得了top-5 11.8%的准确率；做到了不尽快而且准确。 摘要：本文主要结论，1在提升准确度上深度比宽度和filter尺寸更重要；2，尽管深度很重要，如果深度随意增加分类结果会停滞，甚
论文笔记（7）：Constrained Convolutional Neural Networks for Weakly Supervised Segmentation
weixin_30699465的博客
02-01 387
UC Berkeley的Deepak Pathak 使用了一个具有图像级别标记的训练数据来做弱监督学习。训练数据中只给出图像中包含某种物体，但是没有其位置信息和所包含的像素信息。该文章的方法将image tags转化为对CNN输出的label分布的限制条件，因此称为 Constrained convolutional neural network (CCNN)。 该方法把训练过程看...
《Constrained Convolutional Neural Networks for Weakly Supervised Segmentation》翻译
lwycc2333的博客
05-12 2350
弱监督分割的约束卷积神经网络 摘要 我们提出了一种从图像级标签学习密集像素级标签的方法。每个图像级标签都对卷积神经网络(CNN)分类器的输出标签施加约束。我们提出约束CNN(CCNN)，一种利用新的损失函数对输出空间上的任意一组线性约束进行运算定时的方法(即预测标签分布)的CNN。我们的损失形式很容易优化，可以直接纳入标准随机梯度下降优化。其核心思想是将训练目标描述为线性模型的双线性化，然后将其松...
深度学习——卷积神经网络 (Convolutional Neural Networks / CNN)
loveliuzz的博客
01-15 1万+
一、卷积神经网络的概述 1、卷积神经网络与普通神经网络非常相似，它们都由具有可学习的权重w和偏置常量(biases)的神经元组成。每个神经元都接收一些输入，并做一些点积计算，输出是每个分类的分数，普通神经网络里的一些计算技巧到这里依旧适用。普通神经网络把输入层和隐含层进行“全连接(Full Connected)“的设计。从计算的角度来讲，相对较小的图像从整幅图像中计算特征
ImageNet Classification with Deep Convolutional Neural Networks.pdf
03-15
标题和描述中提到的知识点是关于使用深度卷积神经网络（Deep Convolutional Neural Networks, DCNNs）进行ImageNet图像分类的研究。ImageNet是一个大规模的视觉识别挑战赛，旨在评估参赛模型的图像分类性能。在这项...
EfficientNet_Rethinking Model Scaling for Convolutional Neural Networks.pdf
05-20
此外，EfficientNet使用神经架构搜索（neural architecture search）来设计新的基线网络，并进一步规模化，以得到一系列的模型。这些模型被称为EfficientNets，并且在准确性和效率方面都超越了之前的卷积神经网络。...
(keras复现)Learning to Compare Image Patches via Convolutional Neural Networks.rar
01-13
Learning to Compare Image Patches via Convolutional Neural Networks论文的复现代码，这是keras版本，具体怎么做的可以看这篇文章https://blog.youkuaiyun.com/weixin_42521239/article/details/103389033
Deep Spatial-Temporal 3D Convolutional Neural Networks for Traffic Data Forecasting
02-08
Deep Spatial-Temporal 3D Convolutional Neural Networks for Traffic Data Forecasting
CVPR 2015 papers
3D Vision
06-27 3万+
From:   http://www.pamitc.org/cvpr15/program.php?from=timeline&isappinstalled=0 Monday, June 8 8:30am-8:40am Ballrooms A,B,C Rooms 302,304,306 Opening Remarks from Conference
Convolutional Neural Network--学习与实践
Sloudy的专栏
05-24 2177
我们来用python实现一个LeNet识别手写数字的例子。 LeNet的模型结构如下图所示： 整个模型涉及到这样几个Layer： Convolutional Layer、Pooling Layer、InnerProduct Layer、Activation Layer、Accuracy Layer、Softmax Layer Convolutional Layer： 输入是一个
导读ICML2016 - Learning Convolutional Neural Networks for Graphs
mmc2015的专栏
06-20 5419
http://mp.weixin.qq.com/s?__biz=MzIxNzE2MTM4OA==&mid=2665642794&idx=1&sn=b11ec8699218d43bb7b404a4980bf82e&scene=25 感觉方法挺好： 论文引介 |Learning Convolutional Neural Networks for Graphs 原创 201
DeepLab：深度卷积网络，多孔卷积 和全连接条件随机场 的图像语义分割 Semantic Image Segmentation with Deep Convolutional Nets, Atro
Taylor Guo
05-04 4万+
深度卷积网络，多孔卷积 和全连接条件随机场 的图像语义分割 DeepLab: Semantic Image Segmentation with Deep Convolutional Nets, Atrous Convolution, and Fully Connected CRFs 本文的主要任务是深度学习的图像语义分割
CNN在基于弱监督学习的图像分割中的应用
Atomwh的专栏
10-25 1982
CNN在基于弱监督学习的图像分割中的应用 最近基于深度学习的图像分割技术一般依赖于卷积神经网络CNN的训练，训练过程中需要非常大量的标记图像，即一般要求训练图像中都要有精确的分割结果。
学习笔记5 Supervised Convolutional Neural Network 之 Stochastic Gradient Descent
smallplum123的博客
02-16 397
随机梯度下降
ICCV 2015 papers
3D Vision
11-10 3万+
From: http://pamitc.org/iccv15/program.php ICCV 2015 Main Conference Program
《Constrained-CNN Losses for Weakly Supervised Segmentation》论文笔记
lwycc2333的博客
04-17 1247
摘要 基于部分图片标签或者图片标记的弱监督学习，在CNN分割领域引起了广泛的关注，因为它可以减轻完全和繁琐的像素标注的需要。在网络输出中，利用高阶（全局）不平等约束（例如，去约束约束目标域的大小）可以减轻无标签的数据，从而指导运用了特殊领域知识的训练过程。不平等的约束是非常灵活的，因为它们不需要假设精准的先验知识。然而，被约束的拉格朗日对偶优化，在深度网络中被避免大量使用，主要是因为计算机的可追踪...
论文阅读：CVPR2016 Paper list
热门推荐
一亩半分地
05-12 8万+
CVPR2016 accepted paper list
convolutional neural networks
03-16
卷积神经网络（Convolutional Neural Networks，CNN）是一种深度学习网络架构，它使用卷积运算来提取图像中的特征。它通常用于图像分类、目标检测、图像生成等任务。CNN 由一系列卷积层、池化层、全连接层组成，其中...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值