在深度学习中,处理数据和对模型进行参数初始赋值通常有许多随机性的操作,为了使在同一台设备中能可重复性实验,可以提前在以下几个方面进行设置,保证初始的随机种子(seed)相等。
Step1:Pytorch
通过torch.manual_seed()
来为CPU和CUDA设置其初始的seed
import torch
torch.manual_seed(0)
Step2:CuDNN
当代码运行在CuDNN的后端,需要执行以下两步操作:
torch.backends.cudnn.deterministic = True
torch.backends.<