知识点回顾：
- cuda和PyTorch的安装
- 查看显卡信息的命令行命令（cmd中使用）
- cuda的检查
- 简单神经网络的流程
- 数据预处理（归一化、转换成张量）
- 模型的定义
- 继承nn.Module类
- 定义每一个层
- 定义前向传播流程
- 定义损失函数和优化器
- 定义训练流程
- 可视化loss过程
预处理补充注意事项：
1.分类任务中，若标签是整数（如 0/1/2 类别），需转为long类型（对应 PyTorch 的torch.long），否则交叉熵损失函数会报错。
2.回归任务中，标签需转为float类型（如torch.float32）。
在新建网络的时候，我们选择了2层隐藏层和固定的神经元，这类似于我们在机器学习模型中指定一组超参数。
默认已经有一定的神经网络基础，如果没有，你需要自行了解下MLP的概念。
你需要知道
-
梯度下降的思想
-
激活函数的作用
-
损失函数的作用
-
优化器
-
神经网络的概念
神经网络由于内部比较灵活，所以封装的比较浅，可以对模型做非常多的改进，而不像机器学习三行代码固定。
目录
PyTorch的安装（费时）
深度学习项目中，主要使用的包为pytorch，所以需要安装，你需要去配置一个新的环境。
未来在复现具体项目时候，新环境命名最好是 python版本_pytorch版本_cuda版本，例如 py3.10_pytorch2.0_cuda12.2 ,因为复杂项目对运行环境有要求，所以需要安装对应版本的包。
目前主要不用这么严格，先创建一个命名为DL的新环境即可,也可以沿用之前的环境
conda create -n DL python=3.8
conda activate DL
conda install jupyter
pip insatll scikit-learn
# 然后对着下列教程安装pytorch深度学习主要是简单的并行计算，所以gpu优势更大，简单的计算cpu发挥不出来他的价值，我们之前说过显卡和cpu的区别：
-
cpu是1个博士生，能够完成复杂的计算，串行能力强。
-
gpu是100个小学生，能够完成简单的计算，人多计算的快。
这里的gpu指的是英伟达的显卡，它支持cuda可以提高并行计算的能力。
如果你是amd的显卡、苹果的电脑，那样就不需要安装cuda了，直接安装pytorch-gpu版本即可。cuda只支持nvidia的显卡。
或者去b站随便搜个pytorch安装视频。
-
怕麻烦直接安装cpu版本的pytorch，跑通了用云服务器版本的pytorch-gpu
-
gpu的pytorch还需要额外安装cuda cudnn组件（安装教程里有）
-
安装 精简版CUDA 即可，更简单，安装时选择的路径是安装时的临时路径，安装完毕后系统会自动删除，实际安装路径为：C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.4，安装CUDnn会用到，否则安装过程中可能会陷入误区（诶？我安装的cuda怎么没了）
-
安装gpu的pytorch过程中，CUDnn版本要和CUDA的版本兼容，PyTorch的版本也要和CUDA的版本兼容，具体可看cuDNN Archive和Installing previous versions of PyTorch（教程补充）。
-
我安装的版本python 3.8 cuda 12.4 cudnn 8.9.5 pytorch 2.6.0
准备工作
可以在你电脑的cmd中输入nvidia-smi来查看下显卡信息
其中最重要的2个信息，分别是：
-
显卡目前驱动下最高支持的cuda版本，12.4
-
显存大小，6144 MiB ÷ 1024 = 6
PS: 之所以输入这个命令，可以弹出这些信息，是因为为系统正确安装了 NVIDIA 显卡驱动程序，并且相关路径被添加到了环境变量中。如果你不是英伟达的显卡，自然无法使用这个命令。
查看已安装CUDA信息
import torch
torch.cuda输出：
<module 'torch.cuda' from 'e:\\CondaEnvs\\envs\\DL\\lib\\site-packages\\torch\\cuda\\__init__.py'>import torch
# 检查CUDA是否可用
if torch.cuda.is_available():
print("CUDA可用！")
# 获取可用的CUDA设备数量
device_count = torch.cuda.device_count()
print(f"可用的CUDA设备数量: {device_count}")
# 获取当前使用的CUDA设备索引
current_device = torch.cuda.current_device()
print(f"当前使用的CUDA设备索引: {current_device}")
# 获取当前CUDA设备的名称
device_name = torch.cuda.get_device_name(current_device)
print(f"当前CUDA设备的名称: {device_name}")
# 获取CUDA版本
cuda_version = torch.version.cuda
print(f"CUDA版本: {cuda_version}")
else:
print("CUDA不可用。")输出：
CUDA可用！
可用的CUDA设备数量: 1
当前使用的CUDA设备索引: 0
当前CUDA设备的名称: NVIDIA GeForce RTX 3060 Laptop GPU
CUDA版本: 12.4这里的cuda版本是实际安装的cuda驱动的版本，需要小于等于显卡所支持的最高版本。
上述这段代码，可以以后不断复用，检查是否有pytorch及cuda相关信息，我们今天先用cpu训练，不必在意，有没有cuda不影响。
数据的准备
划分数据集
# 仍然用4特征，3分类的鸢尾花数据集作为我们今天的数据集
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
import numpy as np
# 加载鸢尾花数据集
iris = load_iris()
X = iris.data # 特征数据
y = iris.target # 标签数据
# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
# 打印下尺寸
print(X_train.shape)
print(y_train.shape)
print(X_test.shape)
print(y_test.shape)输出：
(120, 4)
(120,)
(30, 4)
(30,)归一化
# 归一化数据，神经网络对于输入数据的尺寸敏感，归一化是最常见的处理方式
from sklearn.preprocessing import MinMaxScaler
scaler = MinMaxScaler()
X_train = scaler.fit_transform(X_train)
X_test = scaler.transform(X_test) #确保训练集和测试集是相同的缩放
# 将数据转换为 PyTorch 张量，因为 PyTorch 使用张量进行训练
# y_train和y_test是整数，所以需要转化为long类型，如果是float32，会输出1.0 0.0
X_train = torch.FloatTensor(X_train)
y_train = torch.LongTensor(y_train)
X_test = torch.FloatTensor(X_test)
y_test = torch.LongTensor(y_test)模型架构定义
定义一个简单的全连接神经网络模型，包含一个输入层、一个隐藏层和一个输出层。
定义层数+定义前向传播顺序
import torch
import torch.nn as nn
import torch.optim as optim
class MLP(nn.Module): # 定义一个多层感知机（MLP）模型，继承父类nn.Module
def __init__(self): # 初始化函数
super(MLP, self).__init__() # 调用父类的初始化函数
# 前三行是八股文，后面的是自定义的
self.fc1 = nn.Linear(4, 10) # 输入层到隐藏层
self.relu = nn.ReLU()
self.fc2 = nn.Linear(10, 3) # 隐藏层到输出层
# 输出层不需要激活函数，因为后面会用到交叉熵函数cross_entropy，交叉熵函数内部有softmax函数，会把输出转化为概率
def forward(self, x):
out = self.fc1(x)
out = self.relu(out)
out = self.fc2(out)
return out
# 实例化模型
model = MLP()其实模型层的写法有很多，relu也可以不写，在后面前向传播的时候计算下即可，因为relu其实不算一个层，只是个计算而已。
# def forward(self,x): #前向传播
# x=torch.relu(self.fc1(x)) #激活函数
# x=self.fc2(x) #输出层不需要激活函数，因为后面会用到交叉熵函数cross_entropy
# return x模型训练（CPU版本）
定义损失函数和优化器
# 分类问题使用交叉熵损失函数
criterion = nn.CrossEntropyLoss()
# 使用随机梯度下降优化器
optimizer = optim.SGD(model.parameters(), lr=0.01)
# # 使用自适应学习率的化器
# optimizer = optim.Adam(model.parameters(), lr=0.001)开始循环训练
实际上在训练的时候，可以同时观察每个epoch训练完后测试集的表现：测试集的loss和准确度
# 训练模型
num_epochs = 20000 # 训练的轮数
# 用于存储每个 epoch 的损失值
losses = []
for epoch in range(num_epochs): # range是从0开始，所以epoch是从0开始
# 前向传播
outputs = model.forward(X_train) # 显式调用forward函数
# outputs = model(X_train) # 常见写法隐式调用forward函数，其实是用了model类的__call__方法
loss = criterion(outputs, y_train) # output是模型预测值，y_train是真实标签
# 反向传播和优化
optimizer.zero_grad() #梯度清零，因为PyTorch会累积梯度，所以每次迭代需要清零，梯度累计是那种小的bitchsize模拟大的bitchsize
loss.backward() # 反向传播计算梯度
optimizer.step() # 更新参数
# 记录损失值
losses.append(loss.item())
# 打印训练信息
if (epoch + 1) % 100 == 0: # range是从0开始，所以epoch+1是从当前epoch开始，每100个epoch打印一次
print(f'Epoch [{epoch+1}/{num_epochs}], Loss: {loss.item():.4f}')输出：（部分）
Epoch [100/20000], Loss: 1.0184
Epoch [200/20000], Loss: 0.9611
Epoch [300/20000], Loss: 0.9033
Epoch [400/20000], Loss: 0.8504
Epoch [500/20000], Loss: 0.8018
Epoch [600/20000], Loss: 0.7579
Epoch [700/20000], Loss: 0.7186
Epoch [800/20000], Loss: 0.6840
Epoch [900/20000], Loss: 0.6534
Epoch [1000/20000], Loss: 0.6263
Epoch [1100/20000], Loss: 0.6021
Epoch [1200/20000], Loss: 0.5806
Epoch [1300/20000], Loss: 0.5612
Epoch [1400/20000], Loss: 0.5436如果你重新运行上面这段训练循环，模型参数、优化器状态和梯度会继续保留，导致训练结果叠加，模型参数和优化器状态（如动量、学习率等）不会被重置。这会导致训练从之前的状态继续，而不是从头开始
可视化结果
import matplotlib.pyplot as plt
# 可视化损失曲线
plt.plot(range(num_epochs), losses)
plt.xlabel('Epoch')
plt.ylabel('Loss')
plt.title('Training Loss over Epochs')
plt.show()
扫一扫
912
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
