10、神经网络与自编码器实战：从图像分类到特征压缩

神经网络与自编码器实战：从图像分类到特征压缩

1. 神经网络模型定义与结构确认

在构建好神经网络模型后，可使用 summary 方法来确认模型的结构和可训练参数（权重）的数量。以下是示例代码：

model.summary()

该方法的输出会总结神经网络的结构。以一个示例模型为例，它包含我们指定的两层，第一层有 500 个单元，第二层有 10 个输出单元。 Param # 列会告知每个特定层中可用的可训练权重数量，此网络总共包含 517,510 个可训练权重。

2. 神经网络训练基础

2.1 监督学习训练原理

在定义好神经网络模型后，我们可以开始训练过程。这里采用监督学习的方式，为模型同时提供输入信息和已知输出，目标是构建一个仅使用模型参数就能根据输入信息返回已知输出的网络。以 CIFAR - 10 图像分类为例，输入信息是图像，已知输出是图像所属的类别。

2.2 误差计算与反向传播

在训练过程中，对于每个样本预测，会使用指定的误差函数计算前馈网络预测的误差。然后对模型中的每个权重进行调整，以减少误差，这个调整过程称为反向传播，因为误差是从网络的输出端反向传播到网络的起始端。

2.3 学习率的影响与选择

在反向传播过程中，每个可训练权重会根据其对总体误差的贡献乘以一个称为学习率的值进行调整，学习率控制着可训练权重的变化率。学习率过大可能导致无法收敛到最小误差，而过小则可能使我们没有足够的时间