OpenMMLab实战营笔记打卡-2

本文探讨了卷积神经网络中的参数量和运算量计算,介绍了GoogleNet、ResNet和可分离卷积等方法如何减少模型复杂性。同时,提到了Transformer模型及其在注意力机制上的创新,以及数据增强在提升模型性能中的作用。

图像分类与mmcls

参数量与运算量

参数量

卷积层的参数量包括:卷积核+偏置值。

以下图为例,其计算公式为:

c\times \left (c_{o}\times k\times k +1\right )=cc_{o}k^{2}+c

其中,c为输出通道数,k为卷积核尺寸,co为原始通道数。

运算量

卷积后的尺寸公式,其中h为原图像大小,k为卷积核尺寸,p为padding,s为步长。

\frac{h-k-2p}{s}+1= h^{*}

  以上图为例,大小为6×6×3的原始图像,输出通道为2,即有2个卷积核进行卷积,卷积核尺寸为3×3。卷积是一个通道的所有卷积核分别与原图像对应通道的原图进行卷积计算,以黄色卷积核为例,原图中最终得到的一个像素,是由红色中的3×3个像素与卷积核共进行了3×3个运算后,再与绿色、蓝色相同的运算结果相加,再加一个偏置项b,最终获得。期间其乘加次数为3×3×3。又由于输出通道尺寸为4×4,总输出为2通道,所

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值