Beforthing的博客

上一篇我们用全连接层完成MNIST分类。把28×28二维图像直接Flatten成一维向量，丢失像素之间空间位置关系参数数量巨大，容易过拟合卷积层Conv、池化层Pool、激活函数卷积：滑动卷积核提取局部特征；池化：降采样、压缩特征图，减少计算量。局部感受野：卷积核只看一小块区域，符合图像特征局部相关性权值共享：一张图共用同一套卷积核，大幅减少参数量平移不变性：同一个特征，在图里左右移动依然可以被识别。

前面已经掌握张量、自动求导、网络搭建、损失优化、Dataset/DataLoader、模型保存加载。无法判断模型是否过拟合（训练loss很低，陌生数据效果很差）看不到准确率指标（分类任务最关心acc）没有标准化的epoch循环结构标准流程：训练阶段：开启，前向、反向、更新参数验证阶段：开启，只计算loss和指标，不更新权重一轮结束后打印训练loss、验证loss、验证准确率根据验证指标保存最优模型。

前面我们已经掌握：张量、自动求导、网络搭建、损失优化、Dataset+DataLoader数据流水线。模型训练好之后，我们需要把成果存下来；训练中途中断，也需要从上次位置继续训练。只保存权重✅【工业界推荐，体积小、灵活】直接保存整个模型❌【简单但不推荐，兼容性差】state_dict是一个字典，key是参数名，value是权重张量，只存参数，不存代码结构。

在PyTorch中，所有神经网络的输入、权重、梯度，全部都是Tensor（张量）。0维张量：标量（单个数字）1维张量：向量（一维数组）2维张量：矩阵（二维数组）3维/4维张量：深度学习最常用，比如图像批次、通道、高、宽。

上一节我们学会了损失函数、优化器和基础训练循环。但是之前示例是手写少量tensor数据，真实项目图片成千上万，需要一套规范的数据加载方案。数据集抽象类，定义怎么拿单条样本（索引取数据）加载器，对Dataset包装，实现batch、shuffle、多进程读取数据流水线：原始数据 → Dataset读取单样本 → Transform预处理 → DataLoader打包成batch送入网络__len__：返回数据集总样本数量，调用：按下标取一个样本，调用。

前面我们学习了张量、自动求导、nn.Module搭建网络。网络搭好之后怎么训练？输入数据，前向传播得到预测值损失函数：计算预测值和标签之间的误差反向传播，计算参数梯度优化器：利用梯度更新网络权重，减小损失损失函数负责“评判好坏”，优化器负责“怎么调整参数变好”。CrossEntropyLoss 标签不要写成one-hot！BCEWithLogitsLoss > BCELoss，避免数值溢出训练循环顺序：清零梯度 → 前向计算loss → backward → step。

前面我们学习了张量Tensor、自动求导Autograd，这两个是Pytorch最底层的基石。在真实项目中，我们不会手动去写大量求导逻辑，torch.nn模块封装好了神经网络各类层、损失函数，让我们快速搭建网络。本篇重点讲解nn.Module以及常用网络层：卷积Conv、池化Pool、全连接Linear。，和opencv、PIL的HWC相反！卷积之后进全连接，一定要flatten展平，否则维度对不上padding的作用：控制特征图尺寸不变，same padding池化层不改变通道数，只缩小高宽。

神经网络训练本质就是：前向计算损失 → 反向求梯度 → 更新参数。PyTorch的Autograd自动求导引擎帮我们自动完成链式求导，不用手写导数。核心概念一句话：只要张量设置，PyTorch会自动构建计算图，调用backward()就能自动算出梯度。

上一篇我们搭建好了Anaconda + PyTorch虚拟环境，但是很多人在命令行里面跑代码没问题，放到PyCharm里就各种报错，本质就是解释器没有选对。同时做深度学习经常会纠结，到底用Jupyter还是PyCharm，本篇一次性讲清楚。Jupyter Notebook 是交互式网页编辑器，后缀.ipynb浏览器会自动打开页面，支持单元格分段运行代码，可以一边写代码、一边看结果、一边写笔记、插入图片公式。PyCharm是IDE，后缀.py脚本文件。

很多深度学习入门的第一步就卡在环境安装，尤其是GPU版本PyTorch，经常出现装完之后cuda无法使用的问题。这篇文章从虚拟环境创建、安装命令、验证、排错完整走一遍。