- 博客(7)
- 收藏
- 关注
原创 深度学习模型问题排查一览(基础与进阶)
归总一下从头复现论文或是自己写网络模型进行训练时遇到过的一些问题。主要包括train loss不收敛,train loss收敛但是val acc低,train loss收敛但是仍然不够低(训练技巧)本文主要从这三个问题入手,列出常见的问题可能性以及排查方式,以及容易被人忽略的一些原因,例如对BN处理对一些细节。1. train loss不收敛,震荡基础问题(a)codi...
2019-10-12 20:43:05
1942
原创 论文MGN笔记《Learning Discriminative Features with Multiple Granularities for Person Re-Identification》
MGN的核心思想是利用global feature+fine grain feature做特征融合然后分类,做part-based的branch取得很简单就是等分,但是为了让模型能收敛,用了多个patch的loss混合训练。看文章结果很不错,只用了给的数据集里面的trainset就能达到90+。github上只有pytorch版本,准备这段时间自己搞一个纯TF版本出来。Motivatio...
2019-07-24 21:38:10
970
原创 机器学习-SVM学习笔记
非原创,许多图是搬运其他博主,底下有链接,我只是把不同人做的好的东西做了一个融合并加入少许个人看法而已如有侵权请立刻与我联系参考博客链接:https://www.cnblogs.com/liaohuiqiang/p/7805954.htmlhttps://www.cnblogs.com/pinard/p/6111471.htmlhttp://www.cnblogs.com/pi...
2018-08-20 17:26:49
359
原创 Image caption——图像理解——看图说话综述(2015-2018)
本文章没有太多公式,仅仅讲述个人理解,主要怎对入门人士。文中定有许多错误,希望大家能相互交流。 Image caption顾名思义,即可让算法根据输入的一幅图自动生成对应的描述性文字。有点类似于看图说话的感觉,此次我想讲的主要是自2015年出现的encoder-decoder这一些列模型以及他们的变体。纵观整个image caption的发展史,它们是层层推进,通过解决不同的问题,逐...
2018-05-31 12:23:31
48455
16
原创 PVAnet论文笔记与CNN常用结构和trick小结
《PVANET: Deep but Lightweight Neural Networks for Real-time Object Detection》想和大家分享一篇早一点的论文,主要目的有两点。一是做一个学习笔记备份,以防我的OneNote那天崩了。二是这篇文章运用了先前许多论文的trick和优点,可以通过这篇文章回顾一下CNN的进化史。论文地址:https://arxiv.org/abs/...
2018-04-23 14:24:51
805
4
原创 C++ Primer plus 学习笔记
C++应该算是我的第二语言,做过一个相关项目,学习书籍是《C++ primer plus》蓝色的那一版本我把我认为容易忘记的一些点就记录在这里了。都是基础,适合新手C++ x++先执行x再执行++,++x先执行++再执行x。++x比x++运行速度快,因为x++需要先创建一个x的副本。 #include “ ”在当前目录底下寻找头文件,若没有再去标准位置查找;#include<>在标准...
2018-02-28 11:52:58
476
原创 损失函数J的最小二乘思路推导
首先是从贝叶斯理论出发,通过什么是似然函数,为什么要最大化似然函数,再利用高斯分布的maximum likelihood function 来推导出最小二乘的损失函数J
2017-07-08 12:50:02
2191
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人