
深度学习
Hope_epoh
这个作者很懒,什么都没留下…
展开
-
Tensorflow中使用tf.variable_scope()而scope名字自动加"_1"
最近在使用tf.variable_scope()对参数进行空间的划分,结果在最后保存为pb文件时,发现scope名字中莫名地被自动添加了"_1"、"_2"等内容,如下代码所示with tf.variable_scope('test'): p1 = tf.placeholder(tf.float32, shape=(3,3), name='p1') #output: test/p...原创 2018-08-28 00:21:08 · 1351 阅读 · 2 评论 -
深度学习中Hyperparameters的选取过程
最近正在利用深度学习网络进行人脸识别,涉及到网络的Hyperparameters的选取,过程中遇到了很多问题,整理汇总起来以便日后避坑。配置环境为Ubuntu+tensorflow_gpu+python3.6整个选取流程如下:随机生成一组某区间范围内的学习率,对每个学习率利用10折交叉验证法,求得在训练少量epoch之后模型在验证集上的平均准确率,最后选取使平均准确率最大的学习率。1. 困...原创 2018-08-21 22:32:31 · 988 阅读 · 0 评论 -
Batch Normalization推导过程
一、BN简介Batch Normalization可谓深度学习的一大利器,可以大大提高训练速度,并带有正则化的效果。其能加速训练的原因是因为消除了每层输出结果中的特征偏移,例如我们在训练一个猫的检测器,如果当前batch中的猫均为白色,那么可能会导致训练过程中某一层的权重分布倾向于“颜色为白色”。然而猫有各种颜色,如果网络只拘泥于白色,会大大降低了训练速度。因此,对Batch Normaliz...原创 2018-09-28 00:08:27 · 1088 阅读 · 1 评论 -
YOLOv1-3论文要点整理
YOLO(You Only Look Once)是一个能够同时兼顾实时性和精度的目标检测算法,与其他“检测分两阶段”的目标检测算法,例如R-CNN、Fast RCNN、Faster RCNN不同的是,YOLO将整个识别过程看做一个回归过程,用一个统一的网络对图片进行预测,同时输出目标类别和位置。YOLO有三个版本,当然随着版本的增加,性能也逐渐提升。以v3为例,YOLOv3比Faster RC...原创 2018-11-06 19:25:15 · 419 阅读 · 0 评论