CaiDaoqing-优快云博客

原创深度学习中过拟合的应对策略

深度学习中常常会遇到模型过拟合的问题，这里简单总结一下过拟合的应对策略。过拟合的原因及表现过拟合的原因简单来说，就是模型的拟合能力远远高于需要解决的问题的复杂度，这就导致了在拟合出训练集数据正确规则的情况下，又拟合了噪声。表现为测试集的预测误差远远大于训练集的预测误差。（偏差小，方差大）应对策略更多的数据原因：让模型看到更多的数据，能够拟合更多的可能，测试集出现例外情况的概率就会更小...

2019-07-11 00:14:41 878 1

原创 FPN 论文阅读小结

论文链接： https://arxiv.org/abs/1612.03144pytorch实现代码： https://github.com/YiJiangYue/FPNmotivationFPN是针对物体检测中多尺度难题提出的一种解决方法，结合高层的语义信息和低层高分辨率的特征信息，在融合后的不同特征层检测尺度不一样的物体，提高了物体检测的准确率，尤其是小物体的检测。Approach三...

2019-07-09 20:49:16 610

原创 BP 算法代码实现

基于吴恩达deep learning 讲解中的推导，python实现了多层神经网络的前向传播和反向传播过程。代码如下：Note：这里最后一层没有经过sigmoid函数公式推导：z为每一层神经元的输入；a为每一层神经元的输出；w为权重；b为偏差。欢迎交流# -*- coding: utf-8 -*-"""last layer without sigmoid@author: cd...

2019-06-20 09:38:00 5008 4

原创梯度消失和梯度爆炸及对应的策略

梯度消失、梯度爆炸的原因关于梯度消失和梯度爆炸的原因，这篇博客讲的很好：梯度消失和梯度爆炸的解答。建议先把BP算法推一遍，原因就很清楚了。小结一下：梯度消失根本原因在于反向传播中，求导系数若小于1，由于连乘效应，网络比较深的情况下，梯度会逐渐趋向于0。比如sigmoid函数求导得到的值，最大为0.25，在深层网络中很容易就会产生梯度消失。梯度爆炸根本原因在于参数 W 初始化值过大，求导过...

2019-05-24 18:03:58 504

原创语义分割常用loss介绍及pytorch实现

这里介绍语义分割常用的loss函数，附上pytorch实现代码。Log loss交叉熵，二分类交叉熵的公式如下：pytorch代码实现：#二值交叉熵，这里输入要经过sigmoid处理import torchimport torch.nn as nnimport torch.nn.functional as Fnn.BCELoss(F.sigmoid(input), target)...

2019-05-24 10:54:51 41972 8

原创 GoogLenet、Resnet、Mobilenet总结及pytorch代码实现

本文简单总结了以下三种比赛常用backbone(pytorch实现代码)：GoogLeNetResnetmobilenetGoogLenet（Inception系列）motivation: 保持网络结构的稀疏性的同时，又能利用密集矩阵的高计算性能。特点：引入inception module这里1x1卷积的作用：降维；减小参数；增加非线性。用小卷积核替代大卷积核，后面5x5...

2019-05-22 00:33:48 2689 1

原创基于Deeplabv3+和Unet的语义分割案例分析——津南数字制造算法挑战复赛

写在前面无论是物体检测，还是语义分割，笔者都是比赛中才开始了解各种网络架构，优劣对比也是参考的网络上各种评价，没有项目经验。所以，选择网络架构时局限性很大，初赛时，毫不犹豫的选择了网上点赞最多的YOLOv3；复赛时，先是选择了deeplabv3+调试，后来又转到了可操作性更高的Unet。建议大家做比赛时，一定要多调研（百度，知乎，Github…)，多交流（关注比赛群里的交流）。赛题介绍复赛...

2019-05-12 21:27:02 12655 6

原创基于YOLOv3的物体检测案例分析——津南数字制造算法挑战赛初赛

写在前面第一次做物体识别的比赛，磕磕绊绊进了复赛。有几点感受想和大家分享一下：不论是遇到什么样的bug，不论你现在排在什么名次，一定要坚持到最后一天，相信水到渠成。单干太辛苦，组队以后，尝试更多的idea，和队友一起坚持到底。一个强大的开源库往往能够让你事半功倍。推荐商汤的mmdetection。赛题介绍本次比赛是利用X光图像及标注数据，监测图像是否包含危险品及其大致位置。初赛阶...

2019-05-12 19:48:14 1930 4

转载 Jetson TX2 卸载并安装OpenCV3.4.0

Jetson TX2 卸载并安装OpenCV版本： - Jetson TX2 - JetPack3.2 - OpenCV3.3 - cmake 3.5.1卸载TX2已经安装好的OpenCV4TegraTX2 刷机的时候安装了JetPack3.2，默认安装了OpenCV4Tegra，而且OpenCV版本是3.3.1。自带的OpenCV没有SIFT和SURF...

2018-05-24 21:52:16 7386

转载 MATLAB标定ZED双目摄像头

MATLAB标定ZED双目摄像头步骤Matlab version：2017bMatlab标定双目摄像头三步走：图像采集单目相机标定双目相机标定图像采集利用Matlab对棋盘格进行图像采集，图片数量在15~25之间。采集代码如下：% 代码功能：每次按下enter键，采集一次棋盘格图片，并将左右相机的图像分离，各自存到事先建好的目录下clear all;clo...

2018-05-17 10:51:53 8674 9

转载视觉SLAM十四讲——学习笔记一（第2讲）

初识SLAM本讲主要内容：什么是视觉SLAM视觉SLAM框架由哪几个模块组成各模块的任务是什么什么是视觉SLAMSLAM(simultaneous localization and mapping)，同时定位与建图。想象一下把一台小机器人放在一个陌生环境中，我们要求它有自主运动的能力，可以在房间里自由的移动，那么，其至少需要知道两件事：我在哪？——定位。周围环境...

2018-04-24 23:12:46 1000

转载 SLIC学习笔记

超像素分割——SLIC学习最新看论文的时候发现“超像素分割”概念被多次提及，作为图像预处理的一部分，“超像素分割”可以在保持图像特征不变的情况下，减少后续图像处理的计算量。这里，将简单介绍一下SLIC（Simple linear iterative clustering）算法，先贴出相关论文和源代码供大家参考。SLIC算法描述算法流程：对照上述算法流程图，SLIC算法可...

2018-04-24 16:46:45 4206 2

CaiDaoqing的博客