
深度学习_学习笔记
文章平均质量分 88
yyangzhenjie
这个作者很懒,什么都没留下…
展开
-
NVIDIA-apex 和 Pytoch-amp学习和理解
一、apex是什么1、apex和amp英伟达官网https://nvidia.github.io/apex/index.html可以看到apex的全称:A PyTorch Extension(Apex),其实就是一种pytorch的拓展插件。目的就是使用户能够快速实现amp(auto mixed precision)——自动混合精度技术在它们的N卡系列上训练模型也构建的一个库。在原有模型训练代码中添加少量代码(4行代码)就能够使用自动混合精度的技术来提高模型的训练速度,提高生产力。简单的理解a.转载 2021-02-26 17:31:15 · 2755 阅读 · 0 评论 -
FaceNet: 认识理解triplet loss
2015年的cvpr,FaceNet: A UnifiedEmbedding for Face Recognition and Clustering,取得了当时人脸识别的state-of-the-art,论文主要提出了tripletloss这一思想;triplet就是一个由(Anchor ,Positive,Negative)组成的三元组。其中,Anchor(表示为Xa)为锚,表示从数据集中随...原创 2020-04-15 18:48:53 · 1135 阅读 · 0 评论 -
人脸识别Loss损失函数
https://www.cnblogs.com/adong7639/p/8944698.html上:https://zhuanlan.zhihu.com/p/34404607下:https://blog.youkuaiyun.com/u014380165/article/details/76864572转载 2019-06-03 18:35:25 · 563 阅读 · 0 评论 -
BatchNorm层的理解
BN层的设定一般是按照conv->bn->scale->relu的顺序来形成一个block。关于BN层,有一个注意点,caffe实现中的use_ global_stats参数在训练时设置为false,这样BN层才能更新计算均值和方差,如果设置为true的话,就是初始固定的了,不会更新;测试时设置为true。因为在训练时bn作用的对象是一个batch_size,而不是整个训练...转载 2019-05-29 09:55:15 · 2144 阅读 · 0 评论 -
YOLO学习笔记
检测的基础知识:在介绍Yolo算法之前,首先先介绍一下滑动窗口技术,这对我们理解Yolo算法是有帮助的。采用滑动窗口的目标检测算法思路非常简单,它将检测问题转化为了图像分类问题。其基本原理就是采用不同大小和比例(宽高比)的窗口在整张图片上以一定的步长进行滑动,然后对这些窗口对应的区域做图像分类,这样就可以实现对整张图片的检测了,如下图3所示,如DPM就是采用这种思路。但是这个方法有致命的缺点,就...原创 2019-05-30 16:02:34 · 387 阅读 · 0 评论 -
softmax激活函数的求解过程
原文出处:https://www.cnblogs.com/alexanderkun/p/8098781.htmlsoftmax函数softmax用于多分类过程中,它将多个神经元的输出,映射到(0,1)区间内,可以看成概率来理解,从而来进行多分类!假设我们有一个数组,V,Vi表示V中的第i个元素,那么这个元素的softmax值就是更形象的如下图表示:softmax直白来说...转载 2018-12-14 10:27:28 · 837 阅读 · 0 评论 -
Caffe中的代码如何解读
转载自:http://blog.sina.com.cn/s/blog_8d02ca7b0102w1fh.html作者:甘宇飞链接:http://www.zhihu.com/question/27982282/answer/39350629来源:知乎1. 初识Caffe1.1. Caffe相对与其他DL框架的优点和缺点:优点:速度快。Google Protocol转载 2018-04-10 09:26:02 · 480 阅读 · 0 评论 -
caffe中解析器solver中各参数的含义及功能层作用
# 训练网络的定义train_net: "lenet_train.prototxt"# 测试网络的定义test_net: "lenet_test.prototxt"# test_iter指定多少前传测试应该执行。在手写体MNIST的情况下,我们测试批量100和100测试迭代,覆盖全10000测试图像(val)。test_iter: 100# 每迭代10000次就测试一次验证...原创 2017-06-26 17:56:16 · 652 阅读 · 0 评论 -
深度学习有趣的应用
转载自:http://www.sohu.com/a/134345723_61030020个令人惊叹的深度学习应用(Demo+Paper+Code)2017-04-16 12:17唐旭 发自 RUC量子位 报道 | 公众号 QbitAI从计算机视觉到自然语言处理,在过去的几年里,深度学习技术被应用到了数以百计的实际问题中。诸多案例也已经证明转载 2017-06-09 16:25:28 · 3952 阅读 · 0 评论 -
卷积神经网络(CNN)新手指南
原文链接:https://www.leiphone.com/news/201607/KjXQ1dFpOQfhTEdK.html?viewType=weixin卷积神经网络(Convolutional Neural Network,CNN)新手指南引言卷积神经网络:听起来像是生物与数学还有少量计算机科学的奇怪结合,但是这些网络在计算机视觉领域已经造转载 2017-06-21 14:44:53 · 302 阅读 · 0 评论 -
caffe中卷积转换为矩阵时im2col的详细过程
转载自;http://blog.youkuaiyun.com/jiongnima/article/details/69736844推荐该博主的解析代码笔记详细易理解。卷积层输出 = 权值矩阵 * 输入特征图转化得到的矩阵权值矩阵尺度 = (卷积组输出通道数) * (卷积组输入通道数*卷积核高*卷积核宽)输入特征图转化得到的矩阵尺度 = (卷积组输入通道数*卷积核高*卷积转载 2017-06-30 11:25:34 · 1557 阅读 · 0 评论