caffe中卷积计算方法

卷积层详解
本文详细解析了卷积层的工作原理,通过将卷积操作转换为矩阵乘法的形式,介绍了im2col方法及其在卷积神经网络中的应用。此外,文章还对比了不同库中卷积层实现方式的区别。

http://zhangliliang.com/2015/02/11/about-caffe-code-convolutional-layer/    http://www.zhihu.com/question/28385679  参考地址

一, 

先把贾扬清卷积的几张幻灯片贴上来,希望能有点用:

最后一页没画,但是基本上就是Filter Matrix乘以Feature Matrix的转置,得到输出矩阵Cout x (H x W),就可以解释为输出的三维Blob(Cout x H x W)。

Caffe里用的是CHW的顺序,有些library也会用HWC的顺序(比如说CuDNN是两个都支持的),这个在数学上其实差别不是很大,还是一样的意思。

顺便广告一下我吐槽Caffe里面卷积算法的链接:Convolution in Caffe: a memo · Yangqing/caffe Wiki · GitHub


二、 

使用im2col的方法将卷积转为矩阵相乘,图如下:


想象一副图像尺寸为MxM,卷积核mxm。在计算时,卷积核与图像中每个mxm大小的图像块做element-wise相乘,相当于把该mxm图像块提取出来,表示成一个长度为m^2的列,共有多少个这种图像块?在不考虑pad和stride的情况下,一共有(M-m+1)^2个,把这么些个图像块均表示为m^2的列,然后组合为一个大矩阵(m^2 x (M-m+1)^2)。这里的操作就是img2col中做的事,matlab中就有这种函数。然后把卷积核也表示为m^2向量,并按列复制为同尺寸矩阵(m^2 x (M-m+1)^2)。俩矩阵按列做点积即得结果。

待卷积图像经过IMG2COL后,就可以直接与网络权重矩阵相乘了(不需要卷积核在图像上滑动了)。这时利用普通的矩阵乘法就是卷积操作。

//修正,条目1中 I.H x I.W是输入的feature map的尺寸,原图笔误,谢谢 @晚晴也是晴 指正


所以  如果能够理解全连接层的实现,那么距离理解卷积层也就一步之遥了,差的是要理解里面的im2col和col2im的作用,经过这两个操作后,卷积层的操作跟全连接层的操作基本是一致的。

【为什么要学习这门课程】深度学习框架如TensorFlow和Pytorch掩盖了深度学习底层实现方法,那能否能用Python代码从零实现来学习深度学习原理呢?本课程就为大家提供了这个可能,有助于深刻理解深度学习原理。左手原理、右手代码,双管齐下!本课程详细讲解深度学习原理并进行Python代码实现深度学习网络。课程内容涵盖感知机、多层感知机、卷积神经网络、循环神经网络,并使用Python 3及Numpy、Matplotlib从零实现上述神经网络。本课程还讲述了神经网络的训练方法与实践技巧,且开展了代码实践演示。课程对于核心内容讲解深入细致,如基于计算图理解反向传播算法,并用数学公式推导反向传播算法;另外还讲述了卷积加速方法im2col。【课程收获】本课程力求使学员通过深度学习原理、算法公式及Python代码的对照学习,摆脱框架而掌握深度学习底层实现原理与方法。本课程将给学员分享深度学习的Python实现代码。课程代码通过Jupyter Notebook演示,可在Windows、ubuntu等系统上运行,且不需GPU支持。【优惠说明】 课程正在优惠中!  备注:购课后可加入白勇老师课程学习交流QQ群:957519975【相关课程】学习本课程的前提是会使用Python语言以及Numpy和Matplotlib库。相关课程链接如下:《Python编程的术与道:Python语言入门》https://edu.youkuaiyun.com/course/detail/27845《玩转Numpy计算库》https://edu.youkuaiyun.com/lecturer/board/28656《玩转Matplotlib数据绘图库》https://edu.youkuaiyun.com/lecturer/board/28720【课程内容导图及特色】
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值