天岚1993_量产机的博客

本篇论文事实上可以看作人脸识别的深度卷积神经网络训练和测试指南。论文中对网络结构的篇幅并不长，但是论文中关于数据收集、训练方式和测试方式的结论值得借鉴。        本篇文章的目的有两个：一是“以少胜多”，对于一般研究机构而言，获取庞大的数据集是不太现实的，但是深度卷积神经网络的训练效果和训练数据的规模有关系，本论文提供了一种能用有限的人力资源获取规模较大的人脸数据的方法；二是“去粗取精”，

简单解释了梯度爆炸和梯度消失的产生原因。

本文主要总结几个比较容易混淆的概念：正则化，归一化，标准化。简单来说，正则化加惩罚项（约束），归一化将数据映射到0~1，标准化将数据按比例缩放。

CNN的感性认识，主要介绍几个神经网络优化的方法和超参数，比如softmax，动量，权重衰减，ReLU。

感性认识CNN，本篇主要介绍BP神经网络的基本原理，反向传播，随机梯度下降。

参考资料：http://www.cnblogs.com/GatsbyNewton/articles/4776683.html

GoogLeNet

CNN的感性认识（四），介绍了一些CNN中的基本常识。

本文基于2014年的经典论文：Generative Adversarial Networks 论文下载地址：https://arxiv.org/abs/1406.2661一、感性认识 GAN的任务是“无中生有”。打个比方，我们想要造假币（但是不知道真币是什么样的），那么我们只能通过执法者的反馈，才知道我们造的假币到底够不够真。GAN网络里既有造假者，也有执法者，一来二去，执法者辨识力越来越高，造

GAN学习笔记（二）——LAPGAN

机器学习与R语言