迷川浩浩的博客

Anaconda环境搭建Mac CPU版本与windows版本类似，但更为简单。首先下载Anaconda，py2,py3版本的都可以，这里给出官方下载链接，下载对应的mac版本，然后正常安装就行。如果被拦截了就去系统设置手动点开被拦截的文件安装，mac版本的IDE Spyder不能创建快捷方式打开，要么通过Anaconda Cloud点开，这个速度慢一点。要么command+空格 输入ter进入终端

本博客用于记录自己平时收集的一些不错的深度学习论文，近9成的文章都是引用量3位数以上的论文，剩下少部分来自个人喜好，本博客将伴随着我的研究生涯长期更新，如有错误或者推荐文章烦请私信。深度学习书籍和入门资源LeCun Y, Bengio Y, Hinton G. Deep learning[J]. Nature, 2015, 521(7553): 436-444. [PDF]（深度学习最权威的综述）

前言： CycleGAN是发表于ICCV17的一篇GAN工作，可以让两个domain的图片互相转化。传统的GAN是单向生成，而CycleGAN是互相生成，网络是个环形，所以命名为Cycle。并且CycleGAN一个非常实用的地方就是输入的两张图片可以是任意的两张图片，也就是unpaired。单向GAN读者可以按照原论文的顺序理解CycleGAN，这里我按照自己的思路解读。CycleGAN本质上是两个

因为最近写各种论文所以一直没有更新，准备先开个坑之后再填。这篇博客将是CNN网络的终结篇，之后将会开始介绍RNN网络。CNN网络最初诞生的时候结构比较简单，都是几个卷积层堆叠一下。但是微软的Resnet和谷歌的Inception系列网络把CNN带到一个设计各种block反复调用的时代。比起传统的CNN网络，新的block设计能够在简化运算的同时保持甚至提高网络的泛化能力。那么本篇博客就来介绍一下现在

Person ReIDNeural Person Search MachinesCross-View Asymmetric Metric Learning for Unsupervised Person Re-IdentificationSHaPE: A Novel Graph Theoretic Algorithm for Making Consensus-Based Decisions i

前言在当今学术界的论文里，几个baseline网络LeNet、AlexNet、VGGNet、GoogLeNet、ResNet都是大家用的多的CNN网络。其中LeNet、AlexNet、VGGNet这三个都是很古老的CNN线性网络，属于新手喜欢用的VGG like 网络，这些网络结构简单，从输入到输出一条路走到黑，所以工业界对这些网络都有很有效的加速优化，但是在学术界却因为泛化能力有限近年逐渐被淘汰。

卷积神经网络（Convolutional Neural Network, CNN）是深度学习转折的标志性成果，在深度学习的早期，以Hinton等为代表的学者们研究主要集中在RBM（限制波尔兹曼机），AE（自编码器）等传统的全连接神经网络框架上，这个时期虽然出现了很多无监督、优化函数改进之类的研究，使得传统的神经网络层数有所增加，但是终究没有脱离全连接神经网络框架的约束，以至于最终网络可训练的参数量还

在深度学习笔记（2）——卷积神经网络（Convolutional Neural Network） 中我们介绍了CNN网络的前向传播，这一篇我们介绍CNN的反向传播，讲到反向传播的时候实质就是一大堆求梯度的数学公式，这些公式其实已经在深度学习笔记（1）——神经网络(neural network) 那篇博客中介绍过了，所以这里就不再介绍。但是传统的神经网络无论是隐层还是激活函数的导数都是可导，可

Relu是一个非常优秀的激活哈数，相比较于传统的Sigmoid函数，有三个作用： 1. 防止梯度弥散 2. 稀疏激活性 3. 加快计算 首先我们看下sigmoid和relu的曲线 然后可以得到sigmoid的导数 以及relu的导数 结论就是sigmoid的导数只有在0附近的时候有比较好的激活性，在正负饱和区的梯度都接近于0，所以这会造成梯度弥散，而relu函数在

本篇博客仅针对毫无机器学习理论背景的人，其他人可以直接跳过。机器学习(machine learning)是最近非常火的一个领域，关于其一些基本定义百度百科、维基百科或者网上随便都可以找到很多资料，所以这里不做过多解释。就我个人理解，通常任何问题我们都可以用一个数学模型来解释： y=f(x)y=f(x) 在统计学习方法里面通常使用的是P(y|x)P(y|x)，为了方便理解，不妨不严谨地把P看作是

这篇文章是深度学习应用在视频分析领域的经典文章，也是Encoder-Decoder模型的经典文章，作者是多伦多大学深度学习开山鼻祖Hinton教授的徒子徒孙们，引用量非常高，是视频分析领域的必读文章。摘要翻译我们使用长短时记忆（Long Short Term Memory, LSTM）网络来学习视频序列的表征。我们的模型使用LSTM编码器将输入序列映射到一个固定长度的表征向量。之后我们用一个或多个L

神经网络是机器学习中的一种经典模型，也是现在深度学习的前身和基础，因此如果要想掌握深度学习，必须通透地了解神经网络。关于神经网络需要做到以下几点：了解神经网络的线性结构，了解非线性激活函数，掌握参数训练的反向传播算法(BP, backpropagation)，了解多层神经网路的梯度弥散问题。神经元和感知机神经网络是由一个个基本的神经元组合而成的，而这些神经元模拟人脑中神经细胞，拥有若干个输入和输出（

安装VS编译器在windows安装NVIDIA的CUDA驱动需要先安装VS的编译器，VS最低的版本是VS2010，网上去下个破解自己安装一下就行，这里不做特别说明。安装CUDA新版本的CUDA已经安装起来相当方便了，只需要去官网根据操作系统选择自己对应的版本cuda就行，下载建议使用local版本，而不是network版本，离线安装就是要方便一点。现在下来之后直接双击安装，除非C盘存在空间的问题，否

Anaconda环境搭建Tensorflow在最新版本0.12目前支持了windows系统，虽然还有部分功能不能使用，但是足够平时使用了，但是这个版本的tensorflow只支持py3.5。为了规避各种麻烦的库环境搭建的问题，最脑残的安装方式是下载最新版的Anaconda3安装，这里给出官方下载链接，下载版本是python3.5对应的Anaconda4.2.0。下载下来之后就双击一路正常安装就行。T

看到一篇比较不错的文章，比较了深度学习中的各种优化方法，可以看这篇博客

1、安装Ubuntu系统这个只要用优盘做一个启动盘就好，然后安装就好了，为了之后cuda安装顺利，这里特别提示/tmp挂载点尽量大一点，我也不知道具体需要多大，反正我给了100G。2、卸载和安装显卡驱动为了之后安装NVIDIA显卡驱动，需要把Ubuntu系统自带的两个驱动给卸载掉（1）屏蔽集显nouveau，编辑黑名单文件sudo gedit /etc/modprobe.d/blacklist.co

正统ReID研究Maximum Margin Metric Learning Over Discriminative Nullspace for Person Re-identification [pdf]RCAA: Relational Context-Aware Agents for Person Search [pdf]Generalizing A Person Retrieva...