- 博客(54)
- 收藏
- 关注

原创 理解 Batch Normalization
参考链接: https://zhuanlan.zhihu.com/p/26138673 https://blog.youkuaiyun.com/hjimce/article/details/50866313 https://blog.youkuaiyun.com/myarrow/article/details/51848285原理BN的本质是解决了反向传播过程中的梯度消失问题。梯度消失/爆炸问题...
2018-05-09 21:31:26
338

原创 【论文笔记-Stereo】Pyramid Stereo Matching Network
论文思想笔记结构论文思想使用ResNet提取特征用dilated convolution增大感受野用Pyramid pooling module,提取各个scale的特征,使之包含global的context信息用feature volume shift构建volume用stacked hourglass 3D CNN(encoder-deco...
2018-04-13 15:41:39
2319

原创 【提升(Boosting)方法】
提升方法需要回答两个问题:一是在每一轮如何改变训练数据的权值和概率分布二是如何将弱分类器组合成一个强分类器。先做简单的回答:提高那些被前一轮弱分类器错误分类样本的权值(因为它们的数量少。需要在下一轮训练的时候给予他们更大的关注)。 -加权多数表决,误差率小的分类器权值比较大。 Adaboost输入: 训练集T=(x1,y1),(x2,y2),(x3,y3),.....
2018-04-01 00:26:34
254

原创 【cs231n】线性分类模型:SVM,Softmax
http://cs231n.github.io/linear-classify/简介对图像分类问题,我们将介绍一种比KNN更加有效的方法(KNN每次预测都需要让预测样本和所有训练样本比较,耗费资源)。这种方法有两个非常重要的部分:评分函数(Score Function) 和损失函数(Loss Function)。前者可以将输入数据 x 映射为类别分值(score class)(类别分值...
2018-03-29 21:40:42
268

原创 【论文笔记-Stereo】Deep Stereo Matching with Explicit Cost Aggregation Sub-Architecture
目录简介摘要论文主要内容A: 匹配代价计算特征提取(ResNet18)特征Volume构建相似度计算B: 匹配代价聚合C:视差计算实验简介Deep Stereo Matching with Explicit Cost Aggregation Sub-Architecture AAAI2018 ,KITTI2015目前(20180320...
2018-03-21 17:38:48
1284
原创 Mac上osx + ubuntu双系统,refind引导
参考链接:在Macbook Pro 上安装refind以引导os x + ubuntu双系统Ubuntu离线安装网卡驱动MAC下linux双系统的安装
2020-02-09 15:10:27
1352
原创 SpineNet论文笔记
目录链接摘要核心要点scale-permute 结构实验结果链接SpineNet: Learning Scale-Permuted Backbone for Recognition and Localization摘要图像分类任务通常采用逐步减小分辨率的网络结构,但是这种结果并不适合同时需要识别和定位的任务。为减小分辨率损失问题,分类任务中采用encoder-decoder结构,但是该结构...
2020-02-09 15:07:04
689
原创 【多任务分类】Fashion Net
文章目录简介Attribute Prediction论文链接 : DeepFashion: Powering Robust Clothes Recognition and Retrieval with Rich Annotations简介公开了服装检索数据集 DeepFashion提出FashionNet,通过多任务结构解决了多个问题,并证明比之前的方法好Attribute Pred...
2019-09-22 17:37:53
1558
原创 【目标检测】CVPR2019 GIoU
文章目录背景&问题:解决方案:使用广义的IoU,即GIoU:GIoU优势效果展望论文链接: Generalized Intersection over Union: A Metric and A Loss for Bounding Box Regression背景&问题:IoU是目标检测领域用来衡量目标是否精确定位的指标。我们用L1、L2 loss回归得到bbox,计算Io...
2019-09-22 12:19:38
317
原创 Nvidia 驱动安装
先安装依赖sudo apt-get install build-essential pkg-config xserver-xorg-dev linux-headers-uname -r.run 方式安装(上网搜)
2019-04-14 08:52:20
500
原创 《稀缺》笔记
通过知乎读书会简单了解了《稀缺:我们是怎样变得又穷又忙的》这本书,在此记录。稀缺的经济学定义:所有有限的资源都是稀缺的稀缺在本书的定义:稀缺是一种「拥有」少于「需要」的感觉(所以稀缺是一种主观的心态)这本书主要回答了三个问题:稀缺会给我们的生活带来什么影响?稀缺会降低人的智商、认知能力、自控力。一项针对美国人的实验显示,当需要支付300美元的一半来修车时,富人、穷人的各项测试指标没有...
2019-01-20 08:36:28
526
原创 mac ubuntu双系统EFI分区修复,内置磁盘分区修复
mac ubuntu双系统误删wswap分区,EFI分区导致mac无法开机现象:1. Mac无法开机,重装ubuntu无效。2. 进如recovery模式,内置磁盘分区号码错误,无法挂载解决方案:使用recovery模式或者U盘启动进入系统,使用gpt工具修改分区号码参考https://apple.stackexchange.com/questions/307780/macos-par...
2019-01-13 22:15:31
3852
原创 功夫熊猫1
最近即将毕业,面临着很多人生问题,意外关注并喜欢上了一个人的公众号“辉哥奇谭”。博主(公众号的作者应该怎么说?)是百度在职员工,工作十年左右,似乎看起来在各方面还算挺成功(至少我这么认为:我觉得能够活得自在,不焦虑,就是成功了。至少他的文章给我的感觉是这样),也喜欢分享自己的靠谱经历,很适合我这种刚毕业,希望有一些可学习、参考模板的年轻人。忘了在他的哪篇文章,看到了他推荐功夫熊猫1。这部电影之...
2018-06-22 23:42:39
915
原创 理解正则化(regularization)(贝叶斯角度还不清楚)
结构风险最小化:结构风险(structure risk)对应于经验风险(empirical risk)。在选择最优模型过程中,我们希望模型不仅能够很好地预测训练数据,更希望它能够很好地预测未参与训练的测试数据。前者对应于最小化经验风险,后者对应于最小化结构风险。结构风险与模型复杂度正相关,所以加正则项的本质是减小模型的复杂度。防止过拟合:添加正则化项相当于添加惩罚项,趋向于让模型复杂度降低,可...
2018-05-09 21:49:41
1295
原创 实验室服务器重装cuda记录(未完成)
开机重启 开机卡在ubuntu界面 $ sudo apt update基本正常除了出现底下的W: GPG 错误:http://repo.mongodb.org trusty/mongodb-org/3.4 Release: 下列签名无效: KEYEXPIRED 1515625755$ sudo apt install –reinstall unity unity-common ...
2018-04-29 15:31:31
367
原创 [c/c++] new
【简单记录】new是什么?c/c++ 中用于创建对象的操作。new的作用和效果?参见这里 不使用new声明对象,该对象在栈上实现。使用new,该对象在堆上实现。 栈空间有大小限制,2M-8M。堆空间则大很多。什么时候用new?当需要动态分配内存的时候,一般用new。如果创建链表,树等类型的对象的时候。...
2018-04-24 09:38:45
355
原创 【论文笔记-stereo】LRCR
contribution: 1)novel recurrent model, end-to-end unifying consistency check and disparity estimation 2) introduce a soft attention mechanism, make the network automatically focus on the unreliable ...
2018-04-23 09:39:37
444
原创 排序算法
void sort(int A[], int k)冒泡 O(N2)O(N2)O(N^2)遍历k次数组,前者比后者大就换位置,使得每次遍历后,最大的数组往后移动至正确的位置。void bobsort(int A[], int k){ for(int i=0; i<k; i++){ for(int j=0; j<k-i-1; j++){ ...
2018-04-22 10:56:27
151
原创 二叉树
数据结构struct TreeNode{ int val; struct TreeNode *left; struct TreeNode *right; TreeNode(int x){ val(x), left(NULL), right(NULL) };}前序遍历中序遍历后序遍历层次遍历void levelOrde...
2018-04-21 22:11:06
162
原创 ResNet 理解
ShortcutCase如果输入和输出的维度一样,y=(x,{Wi})+xy=F(x,{Wi})+x y = \mathcal F(x, \{W_i\}) + x 如果输入和输出的维度不一样: A: 通过zero-padded 填充outputB: 用projection shortcut增大dimension size,只有输入和输出维度不一致时使用 y=(x,{Wi})+W...
2018-04-21 21:55:54
383
原创 【论文笔记-semantic segmentation】deeplabv3+
deeplab_v3+设计了一种新的encoder-decoder结构encoder:deeplab_v3+使用deeplab_v3的结构作为encoder, encoding之后得到size = 1/16 input size的feature mapdecoder:以前的方法直接设计一个16倍的比linear upsampling layer作为decoder。在这里,我们首先对...
2018-04-14 23:44:54
551
原创 神经网络梯度消失、梯度爆炸
形成原因,以 BP 为例说明解决方案Batch NormalizationReLUResNet,形成原因,以 BP 为例说明训练后期,最后一层网络越接近sigmoid两端,此时梯度很小,反向传播导致浅层网络的梯度更小,难以更新权重很深的网络哦容易出现这个问题,梯度计算的结果显示,低层网络的梯度是高层网络梯度结果(部分)的叠乘和它自己的部分的乘积。解决...
2018-04-09 17:14:10
539
1
原创 实验室服务器安装anconda并安装机器学习基础包及TensorFlow/pytorch
目录:写在前面conda简介下载并安装conda检验当前python版本使用前激活conda简单的conda指令写在前面写这篇文章的目的:希望大家看完这篇文章之后理解什么是conda, 学会安装conda, 并用conda在任意一台机器(主要是服务器)上配置自己的python开发环境。如果你使用过conda,并且只是需要在服务器上配置自己的开...
2018-04-09 14:21:46
8068
4
原创 【论文笔记-ResNet】Deep Residual Learning for Image Recognition
1. 简介2. 笔记2.1 网络深度的重要性2.2 梯度的消失/爆炸(vanishing/exposing)问题:2.3 退化问题2.4 残差(residual)结构2.4.1 shortcut连接方式1. 简介2. 笔记2.1 网络深度的重要性已经有一些论文证明,神经网络的深度(层数),能够在一定程度上提升模型的性能。...
2018-04-09 13:14:01
295
原创 Softmax、SVM反向传播推导(未完成)
参考cs231n 和 https://blog.youkuaiyun.com/pjia_1008/article/details/66972060
2018-04-07 16:37:57
1108
原创 HOG(未完成)
图像梯度计算 - 水平方向梯度: Gx(x,y)=H(x+1,y)−H(x−1,y)Gx(x,y)=H(x+1,y)−H(x−1,y)G_x(x, y) = H(x+1, y) - H(x-1, y) - 垂直方向梯度:Gy(x,y)=H(x,y+1)−H(x,y−1)Gy(x,y)=H(x,y+1)−H(x,y−1)G_y(x, y) = H(x, y+1) - H(x, y-1) - 像...
2018-04-02 11:39:38
146
原创 【贝叶斯】
先验(prior)概率和后验(posterior)概率 先验概率就是根据以往的经验进行推理得到的概率。比如我们做100次丢硬币实验,发现有60次正面的,40次反面的,则我们推断:再丢一次硬币,得到正面的概率为60/100 = 0.6。此时,我们便使用了以往(100次实验)的经验。 后验概率:事情已经发生,我们去推断导致事情发生是具体某一个因素引起的可能性。想象一下,你在...
2018-04-01 01:02:38
224
原创 【深度学习】权重初始化方法
ZeroSmall random(Gaussian distribution)He均值为0 方差为? rand(n)/sqrt(n)#
2018-03-29 12:19:24
751
原创 【物体检测】R-CNN家族
目标检测评测指标mAp(Mean Average Precision) true prediction: IoU>thresholdIoU>threshold IoU > threshold & ypred=yypred=y y_{pred} = y 而且,多个类似的预测,只取一个,其他认为是false。即对一张图的同一个物体,假设有5个预测的IoU > thres...
2018-03-27 22:09:41
397
转载 优快云 markdown模板
本Markdown编辑器使用StackEdit修改而来,用它写博客,将会带来全新的体验哦:Markdown和扩展Markdown简洁的语法代码块高亮图片链接和图片上传LaTex数学公式UML序列图和流程图离线写博客导入导出Markdown文件丰富的快捷键快捷键加粗 Ctrl + B 斜体 Ctrl + I 引用 Ctrl + Q插入链...
2018-03-21 16:03:49
402
原创 [Paper]Resolving Stereo Ambiguities using Object Knowledge(未完成)
This proposed a new method to solve the textureless and specular surface problem, which is using object knowledge.
2017-12-11 16:46:50
300
原创 Postprocessing of stereo vision
https://www.youtube.com/watch?v=kmqSoinWqgQ
2017-12-09 11:22:33
245
原创 【论文笔记-Stereo】ICCV2017 Cascade Residual Learning: Stereo Matching
这篇文章介绍了一种新的双目视差计算框架,Cascade Residual Learning。近年来,在MC-CNN的启发下,视差计算算法成为了一种可以用学习解决的问题。文章总结了近年来基于CNN的视差算法,主要可以分为一下三种: 1. Matching cost Learning:这种方法主要将CNN用于匹配代价计算,辅之以一些经典的后处理方法,以得到比较好的视差图。主要代表有:Han ...
2017-12-09 11:09:13
1286
原创 [Stereo_unsupervised][cvpr16]Unsupervised learning of disparity maps from stereo images
Notes of this paper which talk about unsupervised learning for stereo matchWe treat correspond problem as a transformation from the left to right image. First, we start with from the assumption tha...
2017-12-02 11:22:48
363
翻译 Multi-task Learning(未完成)
Notes of An Overview of Multi-Task Learning in Deep Neural Networks “As soon as you find yourself optimizing more than one loss function, you are doing multi-task learning.”
2017-12-02 10:19:34
381
原创 [paper]End-to-End Training of Hybrid CNN-CRF Models for Stereo
Pre-learning隐马尔科夫模型 Y={y1,y2,...,yn}Y = \{y_1, y_2,...,y_n\} 是一组随机变量,X={x1,x2,...,xn}X = \{x_1, x_2,...,x_n\} 是其观测变量,我们假设Y具有马尔科夫性,则X,Y的联合概率为 P(x1,x2,...,xn,y1,y2,...,yn)=P(y1)P(x1|y1)∏i=2nP(yi|yi−1)
2017-11-25 22:26:20
349
原创 [Stereo_cnn][cvpr16]Efficient Deep Learning for Stereo Matching(未完成)
[Paper note](Efficient Deep Learning for Stereo Matching)这篇文章介绍一种更加快速但是只损失少量精确度的双目视差计算方法。其使用的主要框架与MC-CNN类似,尤其是Fast 框架,直接对两个由Siamese network得到feature vectors进行inner product计算。然后对结果的预测采用多类分类的模型,类别即不同大...
2017-11-17 09:55:48
2608
1
原创 Wind Power & Machine Learning
http://www.sciencedirect.com/science/article/pii/S0925231216315533http://www.sciencedirect.com/science/article/pii/S0196890416305428http://www.sciencedirect.com/science/article/pii/S0960148115300574
2017-11-16 20:18:18
238
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人