1*1 的卷积核

本文探讨了1*1卷积核在深度学习中的多种用途,包括降维、引入非线性变化以及在网络的不同阶段作为转换器的角色。特别是在Inception网络中用于减少特征图的厚度,以及在全卷积网络(FCN)中替代全连接层以保留空间信息。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

 

 

1、降维( dimension reductionality )。1*1 的卷积核是对每个像素点,在不同的channels 进行线性组合(信息组合),调控depth。比如,一张500 * 500且厚度depth为100 的图片在20个filter上做1*1的卷积,那么结果的大小为500*500*20。

2、加入非线性。卷积层之后经过激励层,1*1的卷积在前一层的学习表示上添加了非线性激励( non-linear activation ),提升网络的表达能力;

最早出现在Network in Network 中,使用1*1 的卷积核是想加深加宽网络结构,

在Inception 网络中用来降维,并且消除尺寸对识别结果的影响,使用多个不同的filter size 来提取feature map:

在FCN中的1*1 卷积核:

在传统网络结构中后三层为1维向量,不再采用卷积计算,使用全连接计算,会损失二维信息。在FCN中将这三层转换为1*1 的卷积核对应等同向量长度的多通道卷积层,采用卷积计算。

 

http://weibo.com/ttarticle/p/show?id=2309614103999384067932&infeed=1

 

转载于:https://www.cnblogs.com/fanhaha/p/7214355.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值