搞深度学习神经网络到底怎么改代码呀？_深度学习改代码-优快云博客

本文链接：https://blog.youkuaiyun.com/python1234_/article/details/144603454

老师让复现一篇Nature论文代码，但是跑起来后要改需求，让改数据预处理和网络部分，但我压根不会啊，咋办呢？

在这里插入图片描述

首先要对整个深度学习程序结构有足够的理解，以 Pytorch 为例，其程序结构主要包含数据加载和网络构建两部分且二者解耦，前者有一个Dataloader负责把数据读出来变成tensor，后者负责把这tensor算成最后的输出。

Dataloader部分

修改数据就要改Dataloader。如果是按照pytorch默认的写法，就是重写Dataset类，这里面也很简单，getitem是负责从硬盘读数据的函数，把他写好就行了。预处理和数据增强一般也是发生在这里的。更复杂的需求可能需要修改batch_sampler（比如实现正负样本均衡）或者collect_fn函数（比如Dataset是开源库里写好的，没法改），这需要理解一下整个pytorch dataloader的流程，搞清楚了其实也不是很复杂。

import torch
from torch.utils.data import Dataset
from torchvision import transforms
from PIL import Image

# 图像数据路径列表
image_paths = ["img1.jpg", "img2.jpg"]
# 对应标签列表
labels = [0, 1]

# 重写Dataset类
class MyDataset(Dataset):
    def __init__(self, image_paths, labels):
        self.image_paths = image_paths
        self.labels = labels
        self.transform = transforms.Compose([
            transforms.Resize((224, 224)), # 简单预处理，调整图像大小
            transforms.ToTensor()
        ])

    def __len__(self):
        return len(self.image_paths)

    def __getitem__(self, idx):
        img_path = self.image_paths[idx]
        label = self.labels[idx]
        img = Image.open(img_path).convert('RGB')
        img = self.transform(img)
        return img, label

# 创建DataLoader
dataset = MyDataset(image_paths, labels)
dataloader = torch.utils.data.DataLoader(dataset, batch_size=2)

Dataloader改完，你可以单独试着遍历一下，看看是不是会生成想要的tensor，维度和dtype是否正确。图像的话还可以可视化一下看看预处理和数据增强对不对。

import torch
import matplotlib.pyplot as plt

# 前面已经定义好的DataLoader，假设名为dataloader
for batch_data in dataloader:
    images, labels = batch_data
    print(f"Images tensor shape: {images.shape}")
    print(f"Images tensor dtype: {images.dtype}")
    print(f"Labels tensor shape: {labels.shape}")
    print(f"Labels tensor dtype: {labels.dtype}")

    # 可视化图像数据
    for i in range(images.size(0)):
        img = images[i].permute(1, 2, 0).numpy() # 调整维度以适配可视化格式，并转为numpy数组
        plt.imshow(img)
        plt.title(f"Label: {labels[i].item()}")
        plt.show()

网络部分

网络部分是完全和Dataloader解耦的，所以改网络有个debug技巧，就是用tensor.rand([B,C,H,W])丢进去debug，不需要管原本训练用的主函数。

import torch
import torch.nn as nn

# 定义一个简单的卷积神经网络
class SimpleCNN(nn.Module):
    def __init__(self):
        super(SimpleCNN, self).__init__()
        self.conv1 = nn.Conv2d(3, 16, kernel_size=3, padding=1)
        self.relu = nn.ReLU()
        self.pool = nn.MaxPool2d(2, 2)
        self.conv2 = nn.Conv2d(16, 32, kernel_size=3, padding=1)
        self.fc1 = nn.Linear(32 * 8 * 8, 128)
        self.fc2 = nn.Linear(128, 10)

    def forward(self, x):
        x = self.conv1(x)
        x = self.relu(x)
        x = self.pool(x)
        x = self.conv2(x)
        x = self.relu(x)
        x = self.pool(x)
        x = x.view(-1, 32 * 8 * 8)
        x = self.fc1(x)
        x = self.relu(x)
        x = self.fc2(x)
        return x

# 设定batch_size（B）、通道数（C）、图像高度（H）、图像宽度（W）
B = 4
C = 3
H = 32
W = 32

# 利用tensor.rand生成随机张量模拟输入数据
random_input = torch.rand([B, C, H, W])

# 创建网络实例
model = SimpleCNN()

# 将随机张量输入网络进行前向传播，相当于调试网络结构是否正常运行
output = model(random_input)

print("Output shape:", output.shape)

网络的代码其实是很单纯的，一般就是卷积层，线性层，某个激活函数，某种归一化层，还有一些矩阵计算比如torch.matmul, torch.reshape这些东西堆叠成的。不过为了调参方便，开源代码不会直接复制粘贴一堆nn.Conv，而是写个make_layer之类的函数，这样网络的规模就可以通过参数设置了。但是缺点是从代码上看，网络结构不是那么直观。

在这里插入图片描述

想要直观的看到网络结构，你可以直接print网络，再遍历网络的named_parameters()，看看网络都有啥参数，参数的size是多少。然后再单步调试代码，查看网络类的构造函数，找一找每个层是由哪个类管的，或者是由哪个函数生成的,这些一般也会在论文里有详细说明。知道这些之后应该就清楚怎么修改网络了。

最后，一定要大胆尝试！大不了就debug[手动狗头]