卷积神经网络的原理深入探讨

深度学习之卷积神经网络(六) 对于图片的识别来说,全连接网络无疑节点数太多了,对于一个28*28的图片,输入节点数就达到784个,更别说一个更大的图片。所以为了实现计算的简化以及性能的优化处理这就提出了卷积神经网络。 ##卷积神经网络 卷积神经网络CNN的结构一般包含这几个层: 1.输入层(input):用于数据的输入 2.卷积层(convolution):使用卷积核进行特征提取和特征映射 3.激励层:由于卷积也是一种线性运算... 阅读详情

在人工的全连接神经网络中,每相邻两层之间的每个神经元之间都是有边相连的。当输入层的特征维度变得很高时,这时全连接网络需要训练的参数就会增大很多,计算速度就会变得很慢,例如一张黑白的 28×2828×28 的手写数字图片,输入层的神经元就有784个。 
若在中间只使用一层隐藏层,参数 ww 就有 784×15=11760784×15=11760 多个;若输入的是28×2828×28 带有颜色的RGB格式的手写数字图片,输入神经元就有28×28×3=235228×28×3=2352 个…… 。这很容易看出使用全连接神经网络处理图像中的需要训练参数过多的问题。

而在卷积神经网络(Convolutional Neural Network,CNN)中,卷积层的神经元只与前一层的部分神经元节点相连,即它的神经元间的连接是非全连接的,且同一层中某些神经元之间的连接的权重 ww 和偏移 bb 是共享的(即相同的),这样大量地减少了需要训练参数的数量。

卷积神经网络CNN的结构一般包含这几个层:

输入层:用于数据的输入
卷积层:使用卷积核进行特征提取和特征映射
激励层:由于卷积也是一种线性运算,因此需要增加非线性映射
池化层:进行下采样,对特征图稀疏处理,减少数据运算量。
全连接层:通常在CNN的尾部进行重新拟合,减少特征信息的损失
输出层:用于输出结果
当然中间还可以使用一些其他的功能层:

归一化层(Batch Normalization):在CNN中对特征的归一化
切分层:对某些(图片)数据的进行分区域的单独学习
融合层:对独立进行特征学习的分支进行融合
二、CNN的层次结构
输入层:
在CNN的输入层中,(图片)数据输入的格式 与 全连接神经网络的输入格式(一维向量)不太一样。CNN的输入层的输入格式保留了图片本身的结构。

对于黑白的 28×2828×28 的图片,CNN的输入是一个 28×2828×28 的的二维神经元,如下图所示:

而对于RGB格式的28×2828×28图片,CNN的输入则是一个 3×28×283×28×28 的三维神经元(RGB中的每一个颜色通道都有一个 28×2828×28 的矩阵),如下图所示:

卷积层:
在卷积层中有几个重要的概念:

local receptive fields(感受视野)
shared weights(共享权值)
假设输入的是一个 28×2828×28 的的二维神经元,我们定义5×55×5 的 一个 local receptive fields(感受视野),即 隐藏层的神经元与输入层的5×55×5个神经元相连,这个5*5的区域就称之为Local Receptive Fields,如下图所示:

可类似看作:隐藏层中的神经元 具有一个固定大小的感受视野去感受上一层的部分特征。在全连接神经网络中,隐藏层中的神经元的感受视野足够大乃至可以看到上一层的所有特征。

而在卷积神经网络中,隐藏层中的神经元的感受视野比较小,只能看到上一次的部分特征,上一层的其他特征可以通过平移感受视野来得到同一层的其他神经元,由同一层其他神经元来看:

设移动的步长为1:从左到右扫描,每次移动 1 格,扫描完之后,再向下移动一格,再次从左到右扫描。

可看出 卷积层的神经元是只与前一层的部分神经元节点相连,每一条相连的线对应一个权重 ww 。

一个感受视野带有一个卷积核,我们将 感受视野 中的权重 ww 矩阵称为 卷积核 ;将感受视野对输入的扫描间隔称为步长(stride);当步长比较大时(stride>1),为了扫描到边缘的一些特征,感受视野可能会“出界”,这时需要对边界扩充(pad),边界扩充可以设为 00 或 其他值。步长 和 边界扩充值的大小由用户来定义。

卷积核的大小由用户来定义,即定义的感受视野的大小;卷积核的权重矩阵的值,便是卷积神经网络的参数,为了有一个偏移项 ,卷积核可附带一个偏移项 bb ,它们的初值可以随机来生成,可通过训练进行变化。

因此 感受视野 扫描时可以计算出下一层神经元的值为:

b+∑i=04∑j=04wijxij
b+∑i=04∑j=04wijxij
对下一层的所有神经元来说,它们从不同的位置去探测了上一层神经元的特征。

我们将通过 一个带有卷积核的感受视野 扫描生成的下一层神经元矩阵 称为 一个feature map (特征映射图),如下图的右边便是一个 feature map:

因此在同一个 feature map 上的神经元使用的卷积核是相同的,因此这些神经元 shared weights,共享卷积核中的权值和附带的偏移。一个 feature map 对应 一个卷积核,若我们使用 3 个不同的卷积核,可以输出3个feature map:(感受视野:5×5,布长stride:1)

因此在CNN的卷积层,我们需要训练的参数大大地减少到了 (5×5+1)×3=78(5×5+1)×3=78个。

假设输入的是 28×2828×28 的RGB图片,即输入的是一个 3×28×283×28×28 的的二维神经元,这时卷积核的大小不只用长和宽来表示,还有深度,感受视野也对应的有了深度,如下图所示:

由图可知:感受视野: 3×2×23×2×2 ; 卷积核: 3×2×23×2×2 ,深度为3;下一层的神经元的值为:b+∑2d=0∑1i=0∑1j=0wdijxdijb+∑d=02∑i=01∑j=01wdijxdij . 卷积核的深度和感受视野的深度相同,都由输入数据来决定,长宽可由自己来设定,数目也可以由自己来设定,一个卷积核依然对应一个 feature map 。

注:“stride=1stride=1”表示在长和宽上的移动间隔都为1,即 stridewidth=1stridewidth=1 且 strideheight=1strideheight=1

激励层:
激励层主要对卷积层的输出进行一个非线性映射,因为卷积层的计算还是一种线性计算。使用的激励函数一般为ReLu函数:
f(x)=max(x,0)
f(x)=max(x,0)

卷积层和激励层通常合并在一起称为“卷积层”。
池化层:
当输入经过卷积层时,若感受视野比较小,布长stride比较小,得到的feature map (特征图)还是比较大,可以通过池化层来对每一个 feature map 进行降维操作,输出的深度还是不变的,依然为 feature map 的个数。

池化层也有一个“池化视野(filter)”来对feature map矩阵进行扫描,对“池化视野”中的矩阵值进行计算,一般有两种计算方式:

Max pooling:取“池化视野”矩阵中的最大值
Average pooling:取“池化视野”矩阵中的平均值
扫描的过程中同样地会涉及的扫描布长stride,扫描方式同卷积层一样,先从左到右扫描,结束则向下移动布长大小,再从左到右。如下图示例所示:

其中“池化视野”filter: 2×22×2;布长stride:2。(注:“ 池化视野”为个人叫法)

最后可将 3 个 24×2424×24 的 feature map 下采样得到 3 个 24×2424×24 的特征矩阵:
 
归一化层:
1. Batch Normalization
Batch Normalization(批量归一化)实现了在神经网络层的中间进行预处理的操作,即在上一层的输入归一化处理后再进入网络的下一层,这样可有效地防止“梯度弥散”,加速网络训练。
每次训练时,取 batch_size 大小的样本进行训练,在BN层中,将一个神经元看作一个特征,batch_size 个样本在某个特征维度会有 batch_size 个值,然后在每个神经元 xixi 维度上的进行这些样本的均值和方差,通过公式得到 xi∧xi∧,再通过参数 γγ 和 ββ 进行线性映射得到每个神经元对应的输出 yiyi 。在BN层中,可以看出每一个神经元维度上,都会有一个参数 γγ 和 ββ ,它们同权重ww一样可以通过训练进行优化。

在卷积神经网络中进行批量归一化时,一般对 未进行ReLu激活的 feature map进行批量归一化,输出后再作为激励层的输入,可达到调整激励函数偏导的作用。

一种做法是将 feature map 中的神经元作为特征维度,参数 γγ 和 ββ 的数量和则等于 2×fmapwidth×fmaplength×fmapnum2×fmapwidth×fmaplength×fmapnum,这样做的话参数的数量会变得很多;

另一种做法是把 一个 feature map 看做一个特征维度,一个 feature map 上的神经元共享这个 feature map的 参数 γγ 和 ββ ,参数 γγ 和 ββ 的数量和则等于 2×fmapnum2×fmapnum,计算均值和方差则在batch_size个训练样本在每一个feature map维度上的均值和方差。

注:fmapnumfmapnum指的是一个样本的feature map数量,feature map 跟神经元一样也有一定的排列顺序。

Batch Normalization 算法的训练过程和测试过程的区别:

在训练过程中,我们每次都会将 batch_size 数目大小的训练样本 放入到CNN网络中进行训练,在BN层中自然可以得到计算输出所需要的 均值 和 方差 ;

而在测试过程中,我们往往只会向CNN网络中输入一个测试样本,这是在BN层计算的均值和方差会均为 0,因为只有一个样本输入,因此BN层的输入也会出现很大的问题,从而导致CNN网络输出的错误。所以在测试过程中,我们需要借助训练集中所有样本在BN层归一化时每个维度上的均值和方差,当然为了计算方便,我们可以在 batch_num 次训练过程中,将每一次在BN层归一化时每个维度上的均值和方差进行相加,最后再进行求一次均值即可。

2. Local Response Normalization
近邻归一化(Local Response Normalization)的归一化方法主要发生在不同的相邻的卷积核(经过ReLu之后)的输出之间,即输入是发生在不同的经过ReLu之后的 feature map 中。

LRN的公式如下:

b(i,x,y)=a(i,x,y)(k+α∑min(N−1,i+n/2)j=max(0,i−n/2)a(j,x,y)2) β
b(i,x,y)=a(i,x,y)(k+α∑j=max(0,i−n/2)min(N−1,i+n/2)a(j,x,y)2) β
其中: 
a(i,x,y)a(i,x,y) 表示第ii个卷积核的输出(经过ReLu层)的feature map上的 (x,y)(x,y) 位置上的值。 
b(i,x,y)b(i,x,y) 表示 a(i,x,y)a(i,x,y) 经LRN后的输出。 
NN 表示卷积核的数量,即输入的 feature map的个数。 
nn 表示近邻的卷积核(或feature map)个数,由自己来决定。 
k,α,βk,α,β是超参数,由用户自己调整或决定。

与BN的区别:BN依据mini batch的数据,近邻归一仅需要自己来决定,BN训练中有学习参数;BN归一化主要发生在不同的样本之间,LRN归一化主要发生在不同的卷积核的输出之间。

切分层:
在一些应用中,需要对图片进行切割,独立地对某一部分区域进行单独学习。这样可以对特定部分进行通过调整 感受视野 进行力度更大的学习。

融合层:
融合层可以对切分层进行融合,也可以对不同大小的卷积核学习到的特征进行融合。

例如在GoogleLeNet 中,使用多种分辨率的卷积核对目标特征进行学习,通过 padding 使得每一个 feature map 的长宽都一致,之后再将多个 feature map 在深度上拼接在一起: 
融合的方法有几种,一种是特征矩阵之间的拼接级联,另一种是在特征矩阵进行运算 (+,−,x,max,conv)(+,−,x,max,conv)。

全连接层和输出层
全连接层主要对特征进行重新拟合,减少特征信息的丢失;输出层主要准备做好最后目标结果的输出。例如VGG的结构图,如下图所示: 
典型的卷积神经网络
LeNet-5模型
第一个成功应用于数字数字识别的卷积神经网络模型(卷积层自带激励函数,下同):

卷积层的卷积核边长都是5,步长都为1;池化层的窗口边长都为2,步长都为2。

AlexNet 模型
具体结构图:

从AlexNet的结构可发现:经典的卷积神经网络结构通常为:

输入层 → (卷积层+→池化层?)+→全连接层+→输出层
输入层 → (卷积层+→池化层?)+→全连接层+→输出层
AlexNet卷积层的卷积核边长为5或3,池化层的窗口边长为3。具体参数如图所示:

VGGNet 模型
VGGNet 模型 和 AlexNet模型 在结构上没多大变化,在卷积层部位增加了多个卷积层。AlexNet(上) 和 VGGNet (下)的对比如下图所示:

具体参数如图所示:其中CONV3-64:表示卷积核的长和宽为3,个数有64个;POOL2:表示池化窗口的长和宽都为2,其他类似。 
GoogleNet 模型
使用了多个不同分辨率的卷积核,最后再对它们得到的feature map 按深度融合在一起,结构如图:

其中,有一些主要的模块称为 Inception module,例如: 
在 Inception module 中使用到了很多 1×11×1 的卷积核,使用 1×11×1 的卷积核,步长为1时,输入的feature map和输出的feature map长宽不会发生改变,但可以通过改变 1×11×1 的卷积核的数目,来达到减小feature map的厚度的效果,从而做到一些训练参数的减少。

GoogleNet还有一个特点就是它是全卷积结构(FCN)的,网络的最后没有使用全连接层,一方面这样可以减少参数的数目,不容易过拟合,一方面也带来了一些空间信息的丢失。代替全连接层的是全局平均池化(Global Average Pooling,GAP)的方法,思想是:为每一个类别输出一个 feature map ,再取每一个 feature map上的平均值,作为最后的softmax层的输入。

ResNet模型
在前面的CNN模型中,都是将输入一层一层地传递下去(图左),当层次比较深时,模型不是很好训练。在ResNet模型中,它将低层学习到的特征和高层的学习到的特征进行一个融合(加法运算,图右),这样反向传递时,导数传递得更快,减少梯度弥散的现象。

注意:F(X)的shape需要等于 X 的shape ,这样才可以进行相加。

 

深入理解卷积神经网络(CNN)——从原理到实现 王琦      QQ:451165431      计算机视觉&深度学习转载请注明出处 :http://blog.youkuaiyun.com/Rainbow0210/article/details/78562926。本篇通过在MNIST上的实验,引出卷积神经网络相关问题,详细阐释其原理以及常用技巧、调参方法。欢迎讨论相关技术&学术问题,但谢绝拿来主义。代码是博主自己写的,因为倾向于详细阐述底层原理,所 阅读详情

相关推荐

深入理解卷积神经网络(CNN):原理与应用

输入层:接收原始图像数据。卷积层1:提取低级特征。激活层1:引入非线性因素。池化层1:进行下采样。卷积层2:提取更高级的特征。激活层2:继续引入非线性因素。池化层2:降低特征维度。批归一化层(可选)。展平层(Flatten):将多维特征图展平为一维。全连接层1:整合特征信息。激活层3:引入非线性。输出层:进行最终的预测。这一系列的结构与组件共同作用,形成一个有效的卷积神经网络,以讲求特例的概念和操作。

easyaigx的博客 1479

卷积神经网络CNN学习笔记

卷积神经网络层次 输入层INPUT:图像的像素值作为输入。 卷积层CONV:卷积计算层(核心),卷积层连接输入的一个小区域,并计算卷积核与对应的输入小区域之间的点乘作为输出。 池化层POOL:取区域平均或最大。在空间维度(W,H)上执行一个降采样的操作。 全连接层FC:在分类任务中将计算每个类别对应的分数,和普通神经网络一样,FC层的每个神经元都将与其一层的输出相连。

Dijkstra's Monk-ey的博客 1077

卷积神经网络CNN基本原理详解

卷积神经网络(Convolutional Neural Network,简称CNN),是一种前馈神经网络,人工神经元可以响应周围单元,可以进行大型图像处理。卷积神经网络包括卷积层和池化层。

GoppViper的博客 9万+

CNN卷积神经网络总结笔记

CNN卷积神经网络的简要介绍,快速了解CNN

timmy___的博客 647

系统性的介绍 CNN 并深入探讨其基本概念、算法原理及相关操作 Introduction to CNNs

卷积神经网络(Convolutional Neural Networks,CNN)是近年来受到越来越多关注的深度学习模型之一,它被认为能够提升计算机视觉、自然语言处理等领域中的图像识别、视频分析等任务的性能。CNN由卷积层、池化层和全连接层组成,通过不断重复堆叠这些层来实现高效的特征提取。随着CNN在不同领域的广泛应用,它的潜力也日渐凸显。本文将对CNN进行一个系统性的介绍,并深入探讨其基本概念、算法原理及相关操作。假设读者已经了解机器学习、计算机视觉、深度学习的一些基础知识。

AI天才研究院 2103

国密(3)- 预主密钥/主密钥计算和Finished消息的加解密

国密的ECC-SM3-SM4-CBC模式下的预主密钥和主密钥的生成过程介绍,以及Finished消息的加解密介绍

weixin_43408952的博客 6517

常用神经网络-ANN/CNN/RNN/GAN/Transformer

深度学习中,五种常用神经网络介绍。

咸鱼翻书 5007

车载毫米波雷达实战:用MATLAB复现DDMA-MIMO雷达的Empty-band算法(附代码解析)

本文详细介绍了车载毫米波雷达中DDMA-MIMO技术的实战应用,重点解析了Empty-band算法的原理与MATLAB实现。通过搭建仿真环境,文章深入探讨了发射天线通道解调与相位法速度解模糊两大核心难题的解决方案,并提供了完整的代码解析,为雷达算法工程师提供了从理论到实践的清晰指南。

hill8的博客 565

【深度学习】经典的卷积神经网络模型介绍(LeNet、AlexNet、VGGNet、GoogLeNet、ResNet和MobileNet)

经典的卷积神经网络模型介绍卷积神经网络简介一、LeNet1、INPUT层-输入层2、C1层-卷积层3、S2层-池化层(下采样层)4、C3层-卷积层5、S4层-池化层(下采样层)6、C5层-卷积层7、F6层-全连接层二、AlexNet1、AlexNet特点2、ReLu作为激活函数3、数据增强4、层叠池化5、局部相应归一化6、Dropout7、Alex网络结构8、AlexNet参数数量三、VGG net1、VGG的特点2、VGG网络结构3、VGG优缺点四、GoogLeNet1、GoogLeNet Incepet

点赞的都能无bug通过! 5万+

三轴加速度传感器计步算法优化:动态阈值与滤波技术的实践应用

本文深入探讨了三轴加速度传感器计步算法的优化实践,重点分析了动态阈值调整与高效滤波技术如何协同提升计步精度与鲁棒性。通过对比均值滤波的局限,引入向量模长计算、多级自适应阈值以及状态机判决逻辑,并结合代码示例,为嵌入式及移动应用开发者提供了应对复杂运动场景的实用解决方案。

cherry的博客 503

【BUG已解决】ImportError: cannot import name ‘OpenAI‘ from ‘openai‘ 解决方案

的核心是版本不匹配用确认当前版本如果是 0.x 版本 →升级到 1.x升级后代码语法要同步改为团队协作项目务必在中锁定版本号,避免"我这能跑,你那不能跑"的问题对接国产模型时,只需替换base_url参数,SDK 调用方式完全一致。

一键难忘的博客 1万+

卷积神经网络 (CNN) 基本原理和公式

卷积神经网络(CNN)基本原理和公式推导 卷积神经网络是一种前馈型神经网络, 受生物自然视觉认知机制启发而来的. 现在, CNN 已经成为众多科学领域的研究热点之一, 特别是在模式分类领域, 由于该网络避免了对图像的复杂前期预处理, 可以直接输入原始图像, 因而得到了更为广泛的应用. 可应用于图像分类, 目标识别, 目标检测, 语义分割等等. 本文介绍可用于图像分类的卷积神经网络的基本结构. 深度...

天在那边 17万+

Xilinx系ZYNQ学习笔记(一)Vivado使用说明

vivado使用学习

贾saisai的博客 1877

卷积神经网络CNN/Pytorch,如何理解特征图Feature map?

基础详解,卷积神经网络/Pytorch,如何理解特征图Feature map?

MengYa_Dream的博客 2万+

微服务架构的实施与挑战:前提判断、三种落地模式、收益兑现与风险应对

微服务是用运维复杂度换取演进自由度的一笔交易,是否划算取决于系统复杂度是否越过生产率曲线的交叉点。本文先给出实施前提:微服务溢价的六项成本、四项前置能力、康威定律与领域边界,并附就绪度自检表;再拆解三种落地模式:以绞杀者为代表的渐进剥离与数据五级迁移、以模块化单体起步的绿地建设、新旧并行的混合式集成;随后逐项审视六大技术优势与组织收益的兑现条件,系统梳理分布式谬误、分布式单体、Saga与幂等、弹性容错、可观测性、契约测试等挑战与对策,最后给出四阶段落地路线、DORA四项度量与常见反模式清单。

曾经“等你生日那天”都遥远得像未来,如今却可欢愉的挥手说“下个十年见” 172万+

【目录】专栏文章导航

从最强工具链Davinci Configurator模块学习出发掌握AUTOSAR

weixin_47571898的博客 3303

卷积神经网络CNN基本原理和相关基本概念

详细解释卷积神经网络CNN的原理和一些基本概念

爱问西瓜爱大树的博客 3097

python opencv的车牌识别分割详细教程 毕业设计

python opencv的车牌识别分割详细教程 毕业设计

机器学习深度学习业余选手 1328

深入卷积神经网络背后的数学原理

转载自 | AI科技大本营(id:rgznai100)【导读】在计算机神经视觉技术的发展过程中,卷积神经网络成为了其中的重要组成部分,本文对卷积神经网络的数学原理进行了介...

优快云人工智能头条 3188

jre9下载 jdk9

(Java SE Runtime Environment 9.0) 9.0u175 官方最新版 【x86|x64】

Devexpress16.2.6破解工具

Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具

【数据挖掘】卷积神经网络 ( 视觉原理 | CNN 模仿视觉 | 卷积神经网络简介 | 卷积神经网络组成 | 整体工作流程 | 卷积计算图示 | 卷积计算简介 | 卷积计算示例 | 卷积计算参数 )

I . 人类的视觉原理 II . 卷积神经网络 模仿 视觉原理 III . 卷积神经网络简介 IV . 卷积神经网络 组成 V . 卷积神经网络 工作流程 VI . 降低样本参数数量级 VII . 卷积计算 图示分析 VIII . 卷积计算 简介 IX . 卷积计算 示例 X . 卷积本质 XI . 卷积 计算 参数

让 学习 成为一种 习惯 ( 韩曙亮 の 技术博客 ) 2476

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

经典机器学习方法(7)—— 卷积神经网络CNN

本节介绍卷积神经网络CNN的基本原理,包括卷积层和汇聚层

佚失的诗篇 1431

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

矩阵及其运算在卷积神经网络(CNN)中的应用与启发

摘要1. 引言1.1 研究背景和意义1.2 报告结构2. 卷积神经网络(CNN)简介2.1 CNN基本原理2.2 CNN的优势和应用领域3. 矩阵在CNN中的应用3.1 图像表示与卷积运算3.2 特征提取与矩阵分解3.3 参数优化与梯度计算3.4 图像生成与矩阵合成4. 矩阵运算在CNN设计与优化中的启发4.1 模型参数组织与计算优化4.2 矩阵分解与特征选择4.3 并行计算与加速技术4.4 矩阵运算与推理硬件的关系5. 实际应用案例5.1 图像分类与目标检测5.2 人脸识别与姿态估计5.3 图像生成与风格

upc_ws云边牧风是文森 6278

卷积神经网络(CNN)

前言 CNN,即卷积神经网络,主要用于图像识别,分类。由输入层,卷积层,池化层,全连接层(Affline层),Softmax层叠加而成。卷积神经网络中还有一个非常重要的结构:过滤器,它作用于层与层之间(卷积层与池化层),决定了怎样对数据进行卷积和池化。 一、卷积神经网络的网络结构 卷积神经网络主要由这几类层构成:输入层、卷积层,ReLU层、池化(Pooling)层和全连接层(全连接层和常规神经网络...

Flaneur-yz的博客 2785

CNN卷积神经网络原理及示例

一.原理 CNN 由许多神经网络层组成。卷积和池化这两种不同类型的层通常是交替的。网络中每个滤波器的深度从左到右增加。最后通常由一个或多个全连接的层组成: Convnets 背后有三个关键动机:局部感受野、共享权重和池化。 局部感受野 如果想保留图像中的空间信息,那么用像素矩阵表示每个图像是很方便的。然后,编码局部结构的简单方法是将相邻输入神经元的子矩阵连接成属于下一层的单隐藏层神经元。这个单隐藏层神经元代表一个局部感受野。当然,可以通过重叠的子矩阵来编码更多的信息。例如,假设每个子矩阵的大小是

RosebudTT的博客 2115

计算机视觉——卷积神经网络(CNN)简介

在过去的几年里,关于介绍卷积神经网络(CNN)的文档有很多,特别是它已经彻底改变了计算机视觉领域。在这篇文章中,我们将以神经网络的基本背景知识为基础,探索CNN是什么,了解它是如何工作的,并从头开始构建一个简单的CNN。 1.目的 CNN的一个典型的用例是执行图像分类任务,例如查看宠物图像,并决定它是猫还是狗。这似乎是个简单的任务–为什么不直接使用正常的神经网络呢? (1)图像大 目前用于处理计算机视觉问题的图像通常是224 x 224或更大,想象一下,构建一个神经网络来处理224 x 224彩色图像:包括

weixin_42709563的博客 5150

深度神经网络——什么是 CNN(卷积神经网络)?

神经网络是一种受到人脑结构和功能启发的计算模型。它们由多层神经元组成,这些神经元通过加权连接相互关联。这些权重代表了输入数据特征之间的关系,以及它们与特定输出类别之间的联系。在神经网络的操作中,数据被输入到网络中,并通过层层神经元进行处理。每一层的神经元会对接收到的信号进行加权求和,然后通过一个激活函数来决定是否以及如何激活下一层的神经元。在训练过程中,网络的目标是通过调整这些权重来最小化输出和实际值之间的差异。

知来者逆的博客 4737
上一篇: PYSpark环境构建总结
下一篇: 资深大数据/AI专家:大数据知识图谱-实战经验总结
常耀斌
常耀斌 领域专家: 后端开发技术领域 领域专家: 后端开发技术领域
博客等级 码龄8年 1812粉丝 611原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值