java_man1的博客

详细解析了交叉熵损失函数的数学公式和实例 与NLLLoss的区别

神经网络常见损失函数 BCE Loss、BCEWithLogits、CrossEntropy Loss、NLL Loss、Focal Loss、MAE (L1)、MSE (L2)、Smooth L1 (Huber) 神经网络常用损失函数大全（公式 + PyTorch API + 使用场景）

预训练模型进行两段式微调的工业标准流程。核心思路是：1）先冻结预训练卷积层（保留通用特征提取能力），仅训练自定义的分类头（FC层）；2）解冻全部参数，用更小学习率微调整个网络。这种策略能有效保护预训练特征，避免小数据过拟合，同时高效适配新任务。ResNet18的代码实现，包括数据预处理、模型修改、冻结策略选择及训练参数设置，特别强调了学习率调整（阶段1用1e-3，阶段2降为1e-4）对保护预训练参数的重要性。该方法在猫狗分类等小数据集场景表现优异，兼顾训练效率和

ResNet-18是一种18层深度卷积神经网络，残差连接（Skip Connection）解析,pytorch实现ResNet-18模型 手写ResNet-18模型,ResNet-18模型模型原理解析

VGG16模型原理讲解,手写代码解析VGG16模型,VGG16论文模型复现 。VGG16论文地址：https://arxiv.org/pdf

摘要：LeNet5模型原理讲解-手写代码解析LeNet5模型，其核心创新包括局部连接、权值共享、池化操作和多层卷积-池化堆叠结构。网络由输入层、3个卷积层、2个池化层和2个全连接层组成，采用Tanh激活函数。现代变体常用ReLU替代Tanh，Softmax替代原始RBF输出。论文复现代码展示了网络结构，实战练习演示了MNIST数据集上的训练过程，使用交叉熵损失和Adam优化器。该模型在MNIST上准确率达99.