卷积神经网络详细讲解 及 Tensorflow实现

本文详细介绍了卷积神经网络(CNN)的概念,包括数据输入层、卷积计算层、ReLU激励层、池化层和全连接层。讨论了CNN的优缺点,并列举了经典CNN模型如LeNet、AlexNet、VGGNet和GoogleNet。同时,提供了基于Tensorflow的CNN实现代码参考。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

【附上个人git完整代码地址:https://github.com/Liuyubao/Tensorflow-CNN
【如有疑问,更进一步交流请留言或联系微信:523331232】

Reference

本文主要参考以下链接:

分为以下几个部分进行讲解

  1. 从神经网络到卷积神经网络
  2. 深入卷积神经网络
  3. 经典卷积神经网络
  4. 总结

一、从神经网络到卷积神经网络

这里写图片描述

上面是最基本最普通的神经网络,卷积神经网络跟它是什么关系呢?


其实卷积神经网络依旧是层级网络,只是层的功能和形式做了变化,可以说是传统神经网络的一个改进。比如下图中就多了许多传统神经网络没有的层次。

这里写图片描述

从以下5层来对神经网络进行介绍:

  1. 数据输入层/ Input layer
  2. 卷积计算层/ CONV layer
  3. ReLU激励层 / ReLU layer
  4. 池化层 / Pooling layer
  5. 全连接层 / FC layer

二、深入卷积神经网络

【2.1 数据输入层】

对原始图像数据进行预处理

• 去均值:把输入数据各个维度都中心化为0,如下图所示,其目的就是把样本的中心拉回到坐标系原点上。


• 归一化:幅度归一化到同样的范围,如下所示,即减少各维度数据取值范围的差异而带来的干扰,比如,我们有两个维度的特征A和B,A范围是0到10,而B范围是0到10000,如果直接使用这两个特征是有问题的,好的做法就是归一化,即A和B的数据都变为0到1的范围。


• PCA/白化:用PCA降维;白化是对数据各个特征轴上的幅度归一化

这里写图片描述

在CNN的输入层中,(图片)数据输入的格式 与 全连接神经网络的输入格式(一维向量)不太一样。

CNN的输入层的输入格式保留了图片本身的结构(多维向量)。

  • 黑白: 28×28

这里写图片描述

  • RGB: 3×28×28

这里写图片描述

【2.2 卷积计算层】

在卷积层中有2个重要的概念:

local receptive fields(感受视野)

shared weights(共享权值)

这里写图片描述

这里写图片描述

设移动的步长为1:从左到右扫描,每次移动 1 格,扫描完之后,再

向下移动一格,再次从左到右扫描。

这里写图片描述

这里写图片描述

【2.3 激励层】

激励层主要对卷积层的输出进行一个非线性映射,因为卷积层的计算还是一种线性计算。

使用的激励函数一般为ReLu函数:

f(x)=max(x,0)


卷积层和激励层通常合并在一起称为“卷积层”。

这里写图片描述

【2.4 池化层】

池化层夹在连续的卷积层中间, 用于压缩数据和参数的量,减小过拟合。


简而言之,如果输入是图像的话,那么池化层的最主要作用就是压缩图像。

这里写图片描述

池化层用的方法有Max pooling 和 average pooling,而实际用的较多的是Max pooling。

这里就说一下Max pooling,其实思想非常简单。

这里写图片描述

【2.5 全连接层】

两层之间所有神经元都有权重连接,通常全连接层在卷积神经网络尾部。

也就是跟传统的神经网络神经元的连接方式是一样的:

这里写图片描述

【2.6 卷积神经网络的优缺点】

优点

  • 共享卷积核,对高维数据处理无压力

  • 无需手动选取特征,训练好权重,即得特征分类效果好

缺点

  • 需要调参,需要大样本量,训练最好要GPU

  • 物理含义不明确(也就说,我们并不知道没个卷积层到底提取到的是什么特征,而且神经网络本身就是一种难以解释的“黑箱模型”)

三、经典卷积神经网络

  • LeNet,这是最早用于数字识别的CNN
  • AlexNet, 2012 ILSVRC比赛远超第2名的CNN,比LeNet更深,用多层小卷积层叠加替换单大卷积层。
  • ZF Net, 2013 ILSVRC比赛冠军
  • GoogLeNet, 2014 ILSVRC比赛冠军
  • VGGNet, 2014 ILSVRC比赛中的模型,图像识别略差于GoogLeNet,但是在很多图像转化学习问题(比如object detection)上
    效果奇好

这里写图片描述
【3.1 LeNet】
第一个卷积神经网络,1994年由Yann LeCun基于1988年以来的工作提出,并命名为LeNet5。

贡献

  • 在神经网络中引入卷积层
  • 引入下采样
  • 卷积+池化(下采样)+非线性激活的组合是CNN的典型特征
  • 使用MPL作为分类器

这里写图片描述

【3.2 Dan Ciresan Net】

2010年,Dan Claudiu Ciresan和Jurgen Schmidhuber实现了第一个GPU神经网络。

【3.3 AlexNet】

AlexNet是2012年ImageNet比赛的冠军,第一个基于CNN的ImageNet冠军,网络比LeNet5更深(8层)。

贡献

  • 使用ReLU作为非线性激活函数
  • 数据扩增
  • 使用最大池化
  • 使用dropout避免过拟合
  • 使用GPU减少训练时间

从AlexNet之后,深度学习就变成了一种叫做”解决任务的更大规模的神经网络”的技术。

这里写图片描述

【3.4 VGGNet】

VGG是2014年的ImageNet分类的亚军,物体检测冠军,使用了更小的卷积核(3x3),并且连续多层组合使用。

贡献

  • 更深
  • 连续多个3x3的卷积层

VGG论文的一个主要结论就是深度的增加有益于精度的提升,这个结论堪称经典。

这里写图片描述

【3.5 GoogleNet】

GoogLeNet是2014年的ImageNet图像分类的冠军,比VGG19多3层,而其参数却只有AlexNet的1/12,同时获得了当时state-of-the-art的结果。

Inception模块使用1x1的卷积(bottleneck layer)减少了特征数量,同时,分类器部分只保留了必要的一个全连接层,极大的降低了运算数量。Inception模块是GoogLeNet以更深的网络和更高的计算效率取得更好的结果的主要原因。
此后,Inception模块不断改进,产生了Inception-2和Inception-3。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值