
深度学习
文章平均质量分 62
TwT520Ly
人之所以能,是相信能!
展开
-
【深度学习理论】表征学习
\qquad在机器学习中,特征学习或者是表征学习是学习特征的技术的集合:将原始数据通过特诊提取并运行机器学习进行有效的开发。在学习使用特征的过程中,也获得了如何去提取特征的能力。 \qquad在监督特征学习中,被标记过的数据被当做特征用来学习。如神经网络、监督式字典学习等。 \qquad在无监督特征学习中,未被标记过的数据被当做特征用来学习。如无监督式字典学习、独立成分分析、自动编码、矩阵分解...原创 2018-03-09 11:12:02 · 4462 阅读 · 0 评论 -
【论文阅读】目标检测综述
上图链接 https://zhuanlan.zhihu.com/p/33277354?utm_source=wechat_session&utm_medium=social一:Two Stage1.RCNN论文链接:http://fcv2011.ulsan.ac.kr/files/announcement/513/r-cnn-cvpr.pdf 代码链接:https://...原创 2018-03-15 20:58:06 · 3278 阅读 · 0 评论 -
【神经网络】AutoEncoder自编码器
1.基本功能\qquad自编码器最大的特点是输入与输出的节点数是一致的,其功能并不是进行分类或者是回归预测,而是将原始数据转换为一种特殊的特征表示方式,在训练的过程中,依然采用反向传播算法进行参数优化,目标函数为使输出与输入之间的误差最小化。 \qquad基本功能如图,如图所示,普通神经网络是训练类别(或者离散值)与输入之间的映射关系,而AutoEncoder是将input通过encoder...原创 2018-03-01 22:30:19 · 2147 阅读 · 0 评论 -
【神经网络】GAN生成对抗网络
1.GAN基本原理 \qquadGAN生成式对抗神经网络,是一种非监督学习算法,通过使用两个神经网络进行博弈进而实现学习。生成对抗网络是由一个生成网络和一个判别网络构成的。生成网络从latent space中进行随机采样作为网络的输入,使得输出结果尽量类似于真是样本;判别网络的输入为真实样本或者是生成网络的输出,其目标是尽量的从真实样本中识别出由生成网络得到的生成样本。在训练的过程中,生成网络和...原创 2018-03-02 14:12:19 · 4197 阅读 · 0 评论 -
【神经网络】RNNs概述
原文链接:http://blog.youkuaiyun.com/heyongluoyao8/article/details/486362511.简介\qquad循环神经网络(Recurrent Neural Networks, RNNs)已经广泛应用在了自然语言处理领域(NLP)。2.RNNs基本介绍\qquadRNNs的目的使用来处理序列数据。在传统的神经网络模型中,是从输入层到隐含层再到输...转载 2018-03-10 15:57:27 · 2132 阅读 · 0 评论 -
【深度学习理论】卷积神经网络的反卷积/转置卷积
卷积过程: 利用卷积核与覆盖的区域进行内积操作(就是对应元素相乘求和)反卷积过程:原名叫做反卷积,但是并不是很合理,所以转置卷积更合理一点。具体过程如下:(1)首先将卷积与感知野的乘积转换一下,将4*4的卷积核转换为下面的矩阵,然后4*4的原始数据转换为16*1的向量,这样子下面的矩阵一共有四行对应了四次卷积运算,0则表示在实际卷积过程中,卷积核与原图不重叠的位置。 (...原创 2018-03-02 20:49:31 · 1412 阅读 · 0 评论 -
【深度学习理论】Mean Average Precision 计算
Precision = 检测正确的正样本数 / 总的检测样本(top-n) Recall = 检测正确的正样本数 / 总正样本(top-all)\qquad一般来说,Precision与Recall的效果是成反比的,简单的说,如果将所有检测样本识别为正样本,那么Recall=1,但是Precision却会降低。来自博客的一张图片:http://blog.sina.com.cn/s/blo...原创 2018-03-12 11:32:24 · 6233 阅读 · 0 评论 -
【深度学习理论】深度学习图像处理领域相关资源
原文链接:https://zhuanlan.zhihu.com/p/286010322.1 图像生成 2.1.1 绘画风格到图片的转换:Neural Style 2.1.2 图像类比转换:image-analogies 2.1.3 根据涂鸦生成图片:Neural Doodle 2.1.4 匹根据涂鸦类比图片:Sketchy 2.1.5 根据图片生成铅笔画:Pencil ...转载 2018-03-12 13:22:54 · 1206 阅读 · 0 评论 -
【深度学习理论】正则化方法:L1、L2、数据扩增、Dropout
原文链接:http://blog.youkuaiyun.com/u012162613/article/details/44261657 声明:本文在原文的极大参考下,添加部分细节。原文很棒,点个赞!正则化\qquad在训练数据不够多时,或者过度训练时,常常会导致overfitting(过拟合)。随着训练过程的进行,模型复杂度增加,在train data上的error渐渐减小,但是在验证集上的er...原创 2018-03-08 21:21:35 · 1065 阅读 · 0 评论 -
【图像处理理论】高斯滤波
一.滤波基本概念\qquad滤波通常是通过卷积或者相关来实现,线性滤波一般是卷积操作。 (1)卷积:卷积核绕自己的核心元素顺时针旋转180度移动卷积核的中心元素,使它位于输入图像待处理像素的正上方在旋转后的卷积核中,将输入图像的像素值作为权重相乘第三步各结果的和做为该输入像素对应的输出像素(2)相关:移动相关核的中心元素,使它位于输入图像待处理像素的正上方将输入图像...原创 2018-03-08 16:56:17 · 2562 阅读 · 0 评论 -
【论文阅读】非极大值抑制
1.非极大值抑制 非极大值抑制(NMS)就是抑制不是极大值的元素,进一步搜索局部最大值。在YOLO算法以及一些其他的目标检测算法中,会生成很多候选框,每一个候选框都会输入到一个分类器中得到一个置信值。因为在窗口滑动的过程中,候选框之间会有很多的重叠区域,因此要进行筛选。2.算法流程 (1)把置信度最高的一个bounding box作为目标,将剩下bbox与该目标bbox求交区域面积。 (...原创 2018-03-08 15:33:16 · 1558 阅读 · 0 评论 -
【深度学习】LSTM网络
Recurrent Neural Networks人类并不是每时每刻都从一片空白的大脑开始他们的思考。在你阅读这篇文章时候,你都是基于自己已经拥有的对先前所见词的理解来推断当前词的真实含义。我们不会将所有的东西都全部丢弃,然后用空白的大脑进行思考。我们的思想拥有持久性。传统的神经网络并不能做到这点,看起来也像是一种巨大的弊端。例如,假设你希望对电影中的每个时间点的时间类型进行分类。传统的神经网络转载 2017-11-13 10:42:08 · 490 阅读 · 0 评论 -
使用TensorFlow构建RNN
1.简介RNN是循环神经网络,能够结合数据点之间的特定顺序和幅值大小等多个特征,来处理序列数据。重要的是这种网络的输入序列可以是任意长度的。 举一个简单的例子:数字时间序列,具体任务是根据先前值来预测后续值。在每个时间步中,循环神经网络的输入是当前值,以及一个表征该网络在之前的时间步中已经获得信息的状态向量。该状态向量是RNN网络的编码记忆单元,在训练网络之前初始化为零向量。 关于RN转载 2018-01-16 11:37:56 · 532 阅读 · 0 评论 -
【PyCaffe学习】0.前言及介绍
(声明:下面的内容参考大神的博客撰写http://blog.youkuaiyun.com/tostq/article/details/73611437,在原文的基础上进行了部分修改)0.前言及介绍Caffe是一个深度学习框架,但是本人感觉使用的时候比较麻烦。现在比较流行的框架有Tensorflow、Keras、Caffe2或者是PyTorch。 Caffe支持三种开发模式:命令行方式,Python接转载 2018-01-25 15:39:38 · 399 阅读 · 0 评论 -
安装Caffe && Cuda && Cudnn
说明网上关于caffe的安装教程非常多,但是关于每一步是否操作成功,出现了什么样的错误又该如何处理没有给出说明。因为大家的操作系统的环境千差万别,按照博客中的教程一步步的安装,最后可能失败——这是很常见的哦。有的教程甚至省略了一些细节部分,让小白更不知道如何判断每一步是否操作成功,如何处理出现的错误。作者花费了很长时间才成功地将caffe装完,期间遇到好多错误,多次重装操作系统。现在将转载 2018-01-18 09:40:38 · 503 阅读 · 0 评论 -
【Tensorflow】TensorFlow实现CNN
框架:TensorFlow 数据集:MNIST 源码:import tensorflow as tfimport pandasimport numpy as npfrom tensorflow.examples.tutorials.mnist import input_datamnist = input_data.read_data_sets('mnist', one_hot...原创 2018-01-18 20:53:20 · 614 阅读 · 0 评论 -
【Python配置】logging模块使用
基本用法# coding=utf-8import loggingimport sys# 构造一个logger实例logger = logging.getLogger('AppName')# 设置一个格式化处理实例,asctime\levelname\message是预定义的系统参数formatter = logging.Formatter('%(asctime)s %(leve...原创 2018-01-27 16:10:23 · 428 阅读 · 0 评论 -
【深度学习理论】基于滑动窗口的目标检测算法
声明:本文引用吴恩达教授的DeepLearning课程内容。1.目标检测基本概念 \qquad对于之前的图像问题多数是图像分类,首先将一个图片输入到神经网络中,然后通过多层卷积运算,最后经过几个全连接层,交给Softmax得到分类预测概率向量。 \qquad对于目标检测算法,输出标签需要增加边界框四个参数(有一些不同的表示方法:1.中心点、长、宽;2.左下角坐标、右上角坐标;3.左下角坐标...原创 2018-03-07 14:49:11 · 14773 阅读 · 3 评论 -
【神经网络】神经网络加速之量化模型
1.简介2.模型介绍2.1 DeepCompression2.2 Binary-Net2.3 Ternary-Net3.实验分析3.1 Binary-Net in MNIST3.2 Ternary-Net in MNIST3.3 DoReFa-Net in MNIST4.卷积优化4.1 内存换时间4.2 乘法优化4.3 GPU优化4.4 Strassen算...原创 2018-07-04 15:31:07 · 3151 阅读 · 1 评论