qq_36450004的博客

最近正在学习迁移学习，现在有两个结构一样的网络，一个是已经训练好的网络B，一个是新构建的网络T。现在的目标是将T网络的前 m 层直接使用B网络前 m 层以训练好的参数，同时可以选择在训练T网络时，是否冻结（frozen）B网络的前 m 层。废话不多说，直接上代码：NumTransfer_layers = 1 # 只迁移前1层count = 0for t, b in zip(Tmodel.children(), Bmodel.children()): count += 1 if cou

本文记录在使用pytorch进行深度学习编程时遇到的一些值得记录的问题，具有代表性，值得警惕。由于深度学习我是放在百度的云服务器上运算的，所以有些问题是由于服务器的原因(例如pytorch 版本不兼容)导致的

本次实验调用了resnet50模型，由于模型原本输入为3通道，但我只需要1个通道，所以需要修改输入的通道数。另外还需要将输出总的类型数改为自己所定义的OUT_CLASS数目，所以模型调用和修改如下：import torchvisionmodel = torchvision.models.resnet50(pretrained=True)# 修改第一个卷积层的输入通道数model.conv1 = nn.Conv2d(1, 64, kernel_size=7, stride=1, padding=3,

在深度学习中，处理数据和对模型进行参数初始赋值通常有许多随机性的操作，为了使在同一台设备中能可重复性实验，可以提前在以下几个方面进行设置，保证初始的随机种子（seed）相等。1、Pytorch通过torch.manual_seed()来为CPU和CUDA设置其初始的seedimport torchtorch.manual_seed(0)2、CuDNN当代码运行在CuDNN的后端，需要执行以下两步操作：torch.backends.cudnn.deterministic = Truetorc