使用卷积神经网络的一些技巧

关注

转载最新推荐文章于 2025-06-26 11:46:07 发布 685 阅读 AI 写同款· GEO 优化 ›

神经网络方法研究及应用,神经网络预处理标准化 3、基于MATLAB语言的网络训练与仿真建立并初始化网络% ================S1 = 24;在学习阶段应该用大量的样本进行训练学习，通过样本的大量学习对神经网络的各层网络的连接权值进行修正，使其对样本有正确的识别结果，这就像人记数字一样，网络中的神经元就像是人脑细胞，权值的改变就像是人脑细胞的相互作用的改变，神经网络在样本学习中就像人记数字一样，学习样本时的网络权值调整就相当于人记住各个数字的形象，网络权值就是网络记住的内容，网络学习阶段就像人由不认识数字到认识数字反复学习过程是一样的。.. 阅读详情

转载自：https://mp.weixin.qq.com/s/kH4KyZFdFO01R0Nt1fE9yA

障排除前…

以下是在编写深度学习算法时要遵循的最佳实践，关于这个主题的很好的资料来源于CS231n课程讲义以及Bengio的综述论文。

Stanford's CS231n课程讲义：

http://cs231n.github.io/

Bengio的综述论文：

https://arxiv.org/pdf/1206.5533v2.pdf

1.使用适当的日志记录和有意义的变量名称。在TF中能够通过名称来跟踪不同的变量，并在TF的可视化工具TensorBoard中显示出计算图。

最重要的是，每隔几个训练步骤都要确保记录了相关的值，例如：step_number, accuracy, loss, learning_rate。适用的话，加上更具体的度量标准（例如在图像分割任务中使用mean_intersection_over_union，即mean_iou）。之后，就可以根据训练步骤画出损失曲线。

译者注：IoU，预测窗口与标记窗口之间的交并比。

2. 确保你的网络连接正确。使用TensorBoard或其他调试技术确保计算图中每个操作的输入和输出都准确无误，还要确保在将数据和标签送入网络之前对其进行适当的预处理和匹配。

3. 实施数据扩充（data augmentation）技术。虽然这一点并不是对所有情况都适用，但是如果处理图像的话，应用简单的数据扩充技术（例如镜像，旋转，随机裁剪和尺度变换，添加噪声，elastically deforming等），大部分时候会带来巨大的性能提升。而且TF具有大多数这些操作的内置函数，十分良心了。

4. 对所有层使用权重初始化和正则化。不要将权重初始化为相同的值，更糟的是将其初始化为0。这样做会带来对称性（symmetry）和潜在的梯度弥散问题，在大多数情况下会导致可怕的结果。通常，如果在权重初始化时遇到问题，可以考虑将Batch Normalization层添加到网络中。

BN论文链接：

https://arxiv.org/abs/1502.03167。

5. 确保正则项不会“压倒”损失函数中的其他项。关闭正则化，找出“损失”的数量级，然后适当地调整正则项大小。确保随着正则化强度的增加，损失也在增加。

6. 尝试过拟合一个小数据集。关闭正则化/随机失活/数据扩充，使用训练集的一小部分，让神经网络训练几个周期。确保可以实现零损失，如果没有，那么很可能什么地方出错了。

在某些情况下，将损失降到0尤其具有挑战性。例如，在图像语义分割中，如果你的损失涉及每个像素的softmax-ed logits和ground truth labels之间的交叉熵，那么可能真的难以将其降低到0。不过，你应当寻求达到接近100％的准确率，通过获取softmax-ed logits的argmax并将其与ground truth labels进行比较来计算。

译者注：在机器学习中，“ground truth”一词指的是监督学习技术中训练集分类的准确性，简单地说就是正确标注的数据。

7. 在过拟合上述小数据集的同时，找到合适的学习率。下面的内容直接引自Bengio的论文：最优学习率通常接近于不会增加训练误差的最大学习率，一种可以指导启发式设置学习率的观测方法是，例如，以较大的学习率开始，如果训练误差发散，就用最大学习率除以3再试试，直到观察不到发散为止。

8. 执行梯度检验（gradient checks）。如果你在计算图中使用自定义操作——即不是内置的TF操作，则梯度检验尤其重要。下面的链接有一些实现梯度检验的技巧。

Gradient checks：

http://cs231n.github.io/neural-networks-3/

如果损失（Loss Value）没有改善…

如果你训练了几个周期，损失还是没有改善，甚至还越来越大，则应该考虑下面几个步骤了：

1.确保使用了合理的损失函数，而且优化的是正确的张量。此处提供常见的损失函数列表。

https://en.wikipedia.org/wiki/Loss_functions_for_classification

2. 使用一个得当的优化器，此处提供了常用优化器列表。

https://keras.io/optimizers/

3. 确保变量真的在训练。为了检查这一点，你可以查看TensorBoard的直方图，或者编写一个脚本，在几个不同的训练实例中计算每个张量的范数（L1或 L∞），并打印出这些张量的名称。

如果你的变量未按预期进行训练，请参阅下列文章

https://gist.github.com/zeyademam/0f60821a0d36ea44eef496633b4430fc#variable-not-training

4. 调整初始学习率并实施适当的学习率计划（learning rate schedule），这可能是最具影响力的“修复”。如果损失越来越严重，可能是初始学习率太大了。另一方面，如果损失几乎不变，可能是初始学习率太小了。无论如何，一旦确定了有效的初始学习率，就应该进行学习率衰减。像ADAM这样的优化器会在内部实现学习率衰减，但是，这些学习率的更新通常会很慢，在优化器之上实现自己的学习率计划会是个好主意。

5. 确保没有过拟合。有一些方法可以实现过拟合，也有一些方法可以避免它。绘制损失值与训练周期的曲线图，如果曲线看起来像抛物线，那么很可能过拟合了。

请参阅这篇文章：

https://gist.github.com/zeyademam/0f60821a0d36ea44eef496633b4430fc#overfitting

如果变量没在训练…

像上面说的那样，使用TensorBoard的直方图，或编写一个脚本，在几个不同的训练实例中计算每个张量的范数，并打印出这些张量的名称。如果变量未按预期进行训练：

1. 确保TF将其视为可训练的变量。查看TF GraphKeys以获取更多详细信息。

https://www.tensorflow.org/api_docs/python/tf/GraphKeys

2. 确保没发生梯度弥散。如果下游变量（接近输出的变量）训练正常但上游变量（接近输入的变量）几乎不变，则可能遇上了梯度弥散的问题。

请参阅下面的文章：

https://gist.github.com/zeyademam/0f60821a0d36ea44eef496633b4430fc#vanishingexploding-gradients

3. 确保ReLus还在“放电”。如果大部分神经元“电压”被“钳制”为零，那么应该重新修正权重初始化策略，尝试使用不太激进的学习率计划，并尝试减少正则化（权重衰减）。

译者注：ReLu，线性整流函数，又称修正线性单元，是一种人工神经网络中常用的激活函数。