lyl771857509的博客

form:http://tieba.baidu.com/p/3013551686?pid=49703036815&see_lz=1#先从回归(Regression)问题说起。我在本吧已经看到不少人提到如果想实现强AI，就必须让机器学会观察并总结规律的言论。具体地说，要让机器观察什么是圆的，什么是方的，区分各种颜色和形状，然后根据这些特征对某种事物进行分类或预测。其实这就是回归问题。...

为什么要初始化？暴力初始化效果如何？神经网络，或者深度学习算法的参数初始化是一个很重要的方面，传统的初始化方法从高斯分布中随机初始化参数。甚至直接全初始化为1或者0。这样的方法暴力直接，但是往往效果一般。本篇文章的叙述来源于一个国外的讨论帖子[1]，下面就自己的理解阐述一下。首先我们来思考一下，为什么在神经网络算法（为了简化问题，我们以最基本的DNN来思考）中，参数的选择很重要呢？以sigmoid...

指数衰减学习率是先使用较大的学习率来快速得到一个较优的解，然后随着迭代的继续,逐步减小学习率，使得模型在训练后期更加稳定。在训练神经网络时，需要设置学习率（learning rate）控制参数的更新速度，学习速率设置过小，会极大降低收敛速度，增加训练时间；学习率太大，可能导致参数在最优解两侧来回振荡。函数原型：tf.train.exponential_decay(    learning_rat...

讲卷积神经网络之前说说为什么能够进行分类识别？按照传统的SIFT，HOG算法都是先进行特征的提取过程，那么卷积神经网络怎么进行特征的提取呢？ 下面，我们就开始吧！先提一个小问题：“你是通过什么了解这个世界的？”当一辆汽车从你身边疾驰而过，你是通过哪些信息知道那是一辆汽车？“它的材质，速度，发动机的声响，还是什么？”你可能说不清所以然，但是当你看到下图时，你会第一时间反应...

目录一、论文二、模型介绍三、模型预训练一、论文先来看看VGG这篇论文《Very Deep Convolutional Networks for Large-Scale Image Recognition》论文下载地址论文中几个模型主要以几下几种方案A、B、C、D、E。目前主要还是采用VGG16和VGG19也就是下图中的分别红框和绿框部分。  二、模型介绍其实通过...