Deep Convolutional Neural Networks for Image Classification: A Comprehensive Review(论文解读)

这是一篇关于图像处理(分类方向)的卷积神经网络发展的一个综述,聚焦于CNN在图像分类方向的应用,文章分析了:(1)他们早期的成功,(2)他们在深度学习复兴中的角色,(3)选择了象征性的工作成果,以及(4)通过回顾300多种出版物的贡献和挑战所带来的改进。 我们还介绍了他们目前的一些趋势和仍存在的挑战。

本综述面向那些想要了解CNN技术和体系结构发展的人,从他们的前辈到现代最先进的深度学习系统,特别是对于图像分类。 它还对其未来提出了简要的见解,并提供了一些有趣的即将发生的方向,使其适合该领域的研究人员。

论文对于相关技术细节、原理、优缺点等总结论述非常详尽、完整,非常适合学习并不断回顾;尤其是对于相关技术方向的未来发展,提了非常具有指引性的价值,值得慢慢品味。

1介绍

图像分类是计算机视觉任务的基础,如定位、检测、分割等等;

传统方法:双阶段方法,手工制作的特征使用特征描述符从图像中提取出来的,并且这些特征描述符用作可训练分类器的输入。

最近发展:深度学习模型利用多层非线性信息处理,GPUs,
大规模数据集,更好的算法,max pooling,ImageNet Large Scale Visual Recognition Challenge (ILSVRC) 2012
DCNN:1)网络结构2)非线性激活函数3)监督组件4)规则化机制5)优化技术

总共分为7个部分第一个部分就是本部分的简单介绍;第二部分简单介绍CNN及其架构的各个关键部件;第三个部分介绍CNN的发展,包括反向传播、最大池化、MNIST数据集等;第四部分介绍DCNN在深度学习复兴中扮演的角色集发展中取得的显著工作成果;第五部分对于DCNN各个方面改进的尝试,包括网络结构、非线激活函数、监督部件、规则化机制、优化技术、计算复杂度等;第六部分总结仍然存在的挑战及未来趋势。

2 CNN架构在这里插入图片描述

前向传播:卷积、池化、全连接
2.1 卷积层
特征提取,输入图像x,卷积滤波器Wk,及激活函数f:sigmoid、双曲正切、ReLus;

2.2 池化层
减少特征图的空间分辨率,从而实现输入失真和平移的空间不变性。
平均、最大池化

2.3 全连接层
解释特征表示并执行高级推理的功能。Softmax、SVM、
计算量较大,比较不同分类器的性能仍需要进一步的研究。

2.4训练
反向传播,过拟合,通过正则化来缓解。

3 CNN发展

3.1 启发于神经科学
人工神经网络,进化算法和细胞自动机到CNN。
视觉上包含了具有局部接受领域的简单细胞,以及对移位或扭曲输入不变的复杂细胞,以分层方式排列。

3.2 反向传播应用于CNNs
关键的区别在于他们使用反向传播以完全监督的方式进行训练,这与他们的前任所使用的无监督强化方案形成对比。 这使得他们更加依赖于自动学习而不是手工设计的特征提取预处理。

3.3 MNIST数据集

### 回答1: 卷积神经网络 (Convolutional Neural Networks, CNN) 是一种常用于文本分类的深度学习模型。它通过卷积和池化层来提取文本中的特征,并使用全连接层来进行分类。 CNN 的一个优点是能够处理变长的输入,并且不需要对文本进行预处理。 ### 回答2: 卷积神经网络是一种深度学习方法,用于对文本进行分类。在训练过程中,这种网络可以自动学习输入数据的特征表示。卷积神经网络中的卷积层可以识别输入中的局部模式,这些局部模式组合起来形成更高级别的特征,最终帮助分类器确定类别。对于文本分类问题,卷积神经网络的输入是文本的词嵌入向量,可以从先验知识中自动学习特征。 在一些文本分类任务中,卷积神经网络已经取得了很好的表现。文本分类任务通常被分为两种类型:二元分类和多分类。二元分类任务是指将数据分为两类,例如垃圾邮件和非垃圾邮件。多类分类任务是指将数据分为多类,例如新闻分类。在这两种任务中,卷积神经网络都能够进行有效的分类。 对于二元分类任务,卷积神经网络可以使用一个输出节点,并使用 sigmoid 激活函数将输入映射到 0 到 1 之间的概率。对于多分类任务,卷积神经网络可以使用多个输出节点,每个节点对应一个类别,并使用 softmax 激活函数将输入映射到 0 到 1 之间,并且所有输出节点的和为 1。 要训练卷积神经网络进行文本分类,需要对模型进行三个主要的训练步骤。首先,需要构建词嵌入矩阵,该矩阵将文本中的每个词都映射到一个向量。然后,需要将文本数据转换为卷积神经网络所需的格式。最后,需要对模型进行训练,并根据测试数据进行评估。 总之,卷积神经网络已经被证明是一种强大的工具,可以用于文本分类等任务。在处理文本数据时,卷积神经网络可以自动学习输入数据的特征表示,并使用这些特征来确定文本的类别。 ### 回答3: 卷积神经网络(CNN)是一种深度学习模型,它在图像识别、计算机视觉和自然语言处理中表现出色。最近几年,CNN 在句子分类中也获得了很大的成功。 CNN 句子分类模型的输入是一个序列,输出是类别标签。与传统的 RNN 模型不同之处在于,CNN 可以使每个神经元只能捕获一个固定大小的区域的特征,从而加快模型的训练和降低了模型的复杂度。 CNN 句子分类模型的基本架构包括词嵌入层、卷积层、池化层和全连接层。词嵌入层将输入的文本转化为向量表示。卷积层通过滑动窗口对输入的序列进行卷积操作,提取出局部特征。池化层在每个滑动窗口上提取出一个最大值或平均值,进一步降低维度。最后,全连接层将提取出的特征传递到输出层进行分类。 CNN 句子分类模型的优点在于它可以处理不定长的文本序列,并在仅有少量特征的情况下表现出色。但是,CNN 模型的缺点在于不善于处理长期依赖关系,例如情感分析中的Irony识别。为了解决这个问题,可以引入 RNN 或 Transformer 等模型。 总的来说,CNN 模型为句子分类问题提供了一个简单有效的解决方案。在实践中,需要根据具体的任务选择合适的模型结构和参数设置,才能取得最佳效果。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值