程程的博客

采用迭代的算法来训练整个网络，随机设置网络参数的初始值（一般设置为0），将网络实际输出与期望输出的差值作为错误信号，通过梯度下降法反向传播到前层网络来更新权重和偏置，来更好的提取对象的特征。1、Batch normalization  用于优化网络模型结构，对网络中每一层的神经元输入，计算均值和方差后，再进行归一化；2、stride 卷积核滑动步长，如果每次滑动为1 ，感知域将会有很多重叠

做完毕业设计后，对于卷积神经网络模型和调参技巧有了一些心得，希望可以帮助到大家。

Dropout(丢弃)首先需要讲一下过拟合，训练一个大型网络时，因为训练数据有限，很容易出现过拟合。过拟合是指模型的泛化能力差，网络对训练数据集的拟合能力很好，但是换了其他的数据集，拟合能力就变差了。在训练深层网络模型时，按照一定的概率，暂时将神经元丢弃，得到一个更加简单的网络模型，即每一个batch训练的网络模型都是不一样的，都是原始网络的子集，这些子网络共享权值，与原始网络的层数、参数

发表载体：CVPR,2017,最佳论文作者信息：Gao Huang，Cornell University； Zhuang Liu， Tsinghua University ；Laurens van der Maaten， Facebook AI Research论文地址：论文下载代码：代码1、解决的问题深度卷积神经网络可以准确有效地解决各类问题，但是随着网络层数的加深，梯度...