qq_37231166的博客

尽管AlexNet架构已经相对较久远，但其在AI教育等方面仍有重要意义。AlexNet架构的创新点。pytorch代码实现。AlexNet历史意义。

LeNet是一种经典的卷积神经网络（CNN）结构，由Yann LeCun等人在1998年提出，主要用于手写数字识别（如MNIST数据集）。作为最早的实用化卷积神经网络，LeNet为现代深度学习模型奠定了基础，其设计思想至今仍被广泛采用。LeNet验证了CNN在图像任务中的有效性，启发了后续模型（如AlexNet、VGG）。尽管现代网络更复杂，但其“卷积-池化-全连接”的基础架构仍源于LeNet。输入为32x32像素的灰度图像（如手写数字扫描图），经过归一化处理。

softmax回归是一个多类分类模型，使用softmax操作子得到每个类的预测置信度，置信度每个值都是非负的，且和为1，利用交叉熵来衡量预测和标号的区别。以下是利用d2l库实现的代码import osnet.eval()# 正确的数量, 样本总数if(save):plt.show()plt.show()"""加载模型参数"""net.eval()else:lr = 0.1Logits = net_3(X) # 这是训练完成的模型未经过softmax的预测值。

梯度下降通过不断沿着反梯度方向更新参数求解。