- 博客(6)
- 资源 (3)
- 收藏
- 关注
原创 【通俗易懂系列】深度可分离卷积
在计算资源受限制的移动端设备上,常规的卷积操作由于运算量大,经常难以满足实际运行速度的要求,这时,深度可分离卷积(Depthwise Separable Convolution)就排上了用场。深度可分离卷积是由Depthwise(DW)卷积与Pointwise(PW)卷积组成。该结构和常规卷积类似,可用来提取特征,但相比常规卷积,其参数量和运算成本较低。所以在一些轻量级网络中经常会用到此类结构,如MobileNet,ShuffleNet等。常规卷积对于一幅128×128像素、三通道彩色输入图像(尺寸为
2021-06-15 16:02:40
19286
6
原创 【目标检测无痛涨点篇】SWA:平均多个模型权值
1. 为什么要对模型进行无痛涨点在计算资源受限制的移动设备上,算法工程师们只能设计轻量级的AI模型来满足实时性,然而轻量级的模型精度往往都会偏低,这就需要各种无痛涨点技术。无痛涨点技术就是在前向推理时间一定的前提下,能够提升模型效果的技术。常见的无痛涨点技术有:数据增广,损失函数的优化,训练手段的改进等等。本篇要讲的无痛涨点技术是SWA Object Detection论文里提出来的方法,做法很简单,将多个中间模型的权重进行平均,即可得到我们想要的模型。2. SWA 原理简单来说,SWA就是..
2021-05-24 15:58:36
2345
7
原创 错误 error C2220: 警告被视为错误 - 没有生成“object”文件
在VS2013上编译caffe时,经常会遇到如下问题:错误提示:error C2220: 警告被视为错误 - 没有生成“object”文件错误原因:原因是该文件的代码页为英文,而我们系统中的代码页为中文。解决方法:1,将源码转化为正确的编码方式 用VS2013打开对应的文档,文件->打开->选择该cpp,然后保存。 如果不起作用的话,修改其中一部分,或者 选...
2018-08-10 09:14:00
15756
原创 轻量级模型:MobileNet V2
一、论文:https://arxiv.org/abs/18非官方Caffe代码:https://github.com/shicai/MobileNet-Caffe二、论文理解MobileNet V2 是对 MobileNet V1 的改进,同样是一个轻量级卷积神经网络。1)基础理论--深度可分离卷积(DepthWise操作)标准的卷积过程可以看上图,一个2×2的卷积核在...
2018-08-05 15:48:57
57116
15
原创 Netscope:在线可视化Caffe网络结构
Netscope能够在线可视化Caffe的网络结构,也方便设计网络,网址:https://ethereon.github.io/netscope/quickstart.html 使用方便简单,打开网址:https://ethereon.github.io/netscope/#/editor将描述神经网络结构的prototxt文件复制到该编辑框里,按Shift+Enter,即可以图形方式展示...
2018-08-05 15:05:57
5266
原创 合并BN层到卷积层的原理及实验
1. 为什么要合并BN层在训练深度网络模型时,BN(Batch Normalization)层能够加速网络收敛,并且能够控制过拟合,一般放在卷积层之后。BN 层将数据归一化后,能够有效解决梯度消失与梯度爆炸问题。虽然 BN 层在训练时起到了积极作用,然而,在网络前向推断时多了一些层的运算,影响了模型的性能,且占用了更多的内存或者显存空间。目前,很多先进的网络模型(ResNet,MobileN...
2018-08-01 21:14:22
15576
53
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人