- 博客(19)
- 资源 (5)
- 收藏
- 关注
原创 resnet与densenet的区别
第一个公式是ResNet的。这里的l表示层,xl表示l层的输出,Hl表示一个非线性变换。所以对于ResNet而言,l层的输出是l-1层的输出加上对l-1层输出的非线性变换。第二个公式是DenseNet的。[x0,x1,…,xl-1]表示将0到l-1层的输出feature map做concatenation。concatenation是做通道的合并,就像Inception那样。而前面resn...
2018-12-06 15:49:54
5375
原创 深度学习(六)激活函数
写在前面:所有关于深度学习的基础知识均为鄙人的笔记分享,很多内容摘自大神们的博客或论文,因时间太长记不清了分别来自哪里。若有侵权,请联系鄙人邮箱min.wenfang@qq.com一、sigmoid 把输入的连续实值“压缩”到0和1之间,Sigmoid激活函数给神经网络引进了概率的概念。它的导数是非零的,并且很容易计算(是其初始输出的函数)。然而,在分类任务中,sigmoid 正逐渐被...
2018-12-06 15:48:07
407
原创 深度学习(四)cnn反向传播
写在前面:所有关于深度学习的基础知识均为鄙人的笔记分享,很多内容摘自大神们的博客或论文,因时间太长记不清了分别来自哪里。若有侵权,请联系鄙人邮箱min.wenfang@qq.com cnn反向传播 http://www.cnblogs.com/pinard/p/6494810.html1. 回顾DNN的反向传播算法 ...
2018-12-06 15:44:45
265
原创 深度学习(四)cnn前向传播
写在前面:所有关于深度学习的基础知识均为鄙人的笔记分享,很多内容摘自大神们的博客或论文,因时间太长记不清了分别来自哪里。若有侵权,请联系鄙人邮箱min.wenfang@qq.com总结:http://www.cnblogs.com/pinard/p/6489633.html 下面详细说明 三个重点:1 输入层的前向传播;2 卷积层的前向传播;3 池化层的前...
2018-12-06 15:43:53
1210
原创 深度学习(七)梯度下降法
写在前面:所有关于深度学习的基础知识均为鄙人的笔记分享,很多内容摘自大神们的博客或论文,因时间太长记不清了分别来自哪里。若有侵权,请联系鄙人邮箱min.wenfang@qq.com应用机器学习算法时,我们通常采用梯度下降法来对采用的算法进行训练。其实,常用的梯度下降法还具体包含有三种不同的形式,它们也各自有着不同的优缺点。总结如下下面我们以线性回归算法来对三种梯度下降法进行比较。 ...
2018-12-06 15:41:47
873
原创 深度学习(八)正则化Regularization
写在前面:所有关于深度学习的基础知识均为鄙人的笔记分享,很多内容摘自大神们的博客或论文,因时间太长记不清了分别来自哪里。若有侵权,请联系鄙人邮箱min.wenfang@qq.com参考:https://www.cnblogs.com/jianxinzhou/p/4083921.html1. The Problem of Overfitting1还是来看预测房价的这个例子,我们先...
2018-12-06 15:39:20
545
原创 深度学习(九)dropout与Batch norm
一、Dropout,大部分实验表明其具有一定的防止过拟合的能力。最早的Dropout可以看Hinton的这篇文章 《Improving neural networks by preventing co-adaptation of feature Detectors》如上图左,为没有Dropout的普通2层全连接结构,记为 r=a(Wv),其中a为激活函数。如上图右,为在第2层全...
2018-12-06 15:36:14
3733
原创 深度学习(三)cnn原理与结构
写在前面:所有关于深度学习的基础知识均为鄙人的笔记分享,很多内容摘自大神们的博客或论文,因时间太长记不清了分别来自哪里。若有侵权,请联系鄙人邮箱min.wenfang@qq.com以LeNet-5为例说明:输入:32*32的手写字体图片,这些手写字体包含0~9数字,也就是相当于10个类别的图片输出:分类结果,0~9之间的一个数因此我们可以知道,这是一个多分类问题,总共有十个...
2018-12-06 15:34:33
511
原创 深度学习(一)逻辑回归
写在前面:所有关于深度学习的基础知识均为鄙人的笔记分享,很多内容摘自大神们的博客或论文,因时间太长记不清了分别来自哪里。若有侵权,请联系鄙人邮箱min.wenfang@qq.com一、逻辑回归逻辑回归(logistic regress)是一个二分类的问题,其输出y的值为0或1。用于解决监督学习问题的学习算法。logistic regress的目的就是使预测值与真实值之间的误差最小。损失函数...
2018-12-06 15:32:44
2449
原创 深度学习(二)卷积计算
写在前面:所有关于深度学习的基础知识均为鄙人的笔记分享,很多内容摘自大神们的博客或论文,因时间太长记不清了分别来自哪里。若有侵权,请联系鄙人邮箱min.wenfang@qq.com目前,卷积的计算大多采用间接计算的方式,主要有以下三种实现方式:im2col + GEMM。 caffe等很多框架中都使用了这种计算方式,原因是将问题转化为矩阵乘法后可以方便的使用很多矩阵运算库(如MKL、ope...
2018-12-06 15:30:15
2700
转载 十大经典排序算法(附程序)
转自https://www.cnblogs.com/onepixel/articles/7674659.html0、算法概述0.1 算法分类十种常见排序算法可以分为两大类:非线性时间比较类排序:通过比较来决定元素间的相对次序,由于其时间复杂度不能突破O(nlogn),因此称为非线性时间比较类排序。线性时间非比较类排序:不通过比较来决定元素间的相对次序,它可以突破基于比较排序的...
2018-12-05 11:53:50
1052
1
原创 Liberty_NotreDame_Yosemite数据集
该数据集应用于图像匹配 供下载网址:http://phototour.cs.washington.edu/patches/default.htm 或 http://matthewalunbrown.com/patchdata/patchdata.html 每个压缩文件夹中均包含若干个1024*1024(.bmp)的图像,每个图像又包含16*16个image_patch,每个imag...
2018-08-29 14:13:17
2509
原创 图像相似度
近来(2015-2017年),利用深度学习计算图像相似度(也可理解为图像匹配)的思想非常相似,皆源于Siamese Networks(经典老文献《Signature Verification Using a Siamese Time Delay Neural Network》)。目的就是比较两幅图片是否相似,或者说相似度是多少,因此构建的卷积神经网络模型的输入就是:两幅图片,然后网络的输出是一个相...
2018-08-29 14:11:56
10841
1
翻译 Dual-tree (快速计算核密度估计算法)
Dual-tree (快速计算核密度估计算法)介绍使用kd-tree实现空间划分: Kd-tree:k-dimensional树的简称,是一种分割k维数据空间的数据结构。对数据点在k维空间{二维(x,y),三维(x,y,z),k维(x,y,z..)}中划分的一种数据结构,主要应用于多维空间关键数据的搜索(如:范围搜索和最近邻搜索)。Kd-Tree的构建算法:(1)在K维数...
2018-08-29 14:07:10
2355
1
翻译 Crosstalk Cascades for Frame-Rate Pedestrian Detection 阅读笔记
Crosstalk Cascades for Frame-Rate Pedestrian Detection(目的:逐步减少输入检测框数量)1 介绍(说明已存在方法很慢,引出本文的算法。略。。。)检测速度取决于特征和分类器。文献【4】提供了一个快速多尺度特性的优化算法:在相邻位置构建两个级联;本文的串级联算法可以提高4~30倍的速度;Fig.1 每个棒子代表一个级联的评...
2018-08-29 14:03:32
869
原创 表情识别实验
1.实验数据 实验数据采用Kaggle的一个表情分类比赛数据(https://www.kaggle.com/c/challenges-in-representation-learning-facial-expression-recognition-challenge/data),该数据集包含三万多张人脸图片,每张图片被标注为“0=Angry, 1=Disgust, 2=Fear, 3=H...
2018-08-29 13:55:11
3174
2
原创 DeepLearning历程梳理从LeNet至YOLO2
目录 目录一 LeNet-5二 AlexNet三 Network in Network四 VGGNet五 GoogLeNet六 ResNet七 R-CNN八 SPP-NET九 Fast-RCNN十 Faster-RCNN十一 YOLO v1十二 SDD十三 YOLO v2和YOLO 9000 附:所有的网络训练都涉及前向传播和反向...
2018-08-29 13:47:37
1243
翻译 Stixels estimation without depth map computation 阅读笔记
1介绍(1)使用立体影像快速检测深度图作为提高检测质量和速度的传统方法;减少检测窗口,可以提高速度;本文将实现不计算深度图估算stixel的方法;(2)Stixels场景一个特定的参数化世界的模型,强大的简化假设;假设地面局部平坦,所有对象被描述为“棍棒”垂直在地面上;每一个垂直的棍子相当于图中的一根柱子,称为 stixel (棒状像素);(3)假设拍摄相机...
2018-08-29 12:04:30
786
原创 Python2.7 mysql操作
Python的DB-API,为大多数的数据库实现了接口,使用它连接各数据库后,就可以用相同的方式操作各数据库。Python DB-API使用流程:引入 API 模块。 获取与数据库的连接。 执行SQL语句和存储过程。 关闭数据库连接。一、MySQLdb模块0 简介 MySQLdb 是用于Python链接Mysql数据库的接口,它实现了 Python 数据库 API 规...
2018-08-29 11:58:28
2052
opencv3.4.2_contrib.rar
2020-03-05
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人