关于pytorch可复现性问题

最新推荐文章于 2022-10-23 12:00:58 发布

原创最新推荐文章于 2022-10-23 12:00:58 发布 · 1.9k 阅读

4 ·

CC 4.0 BY-SA版权

文章标签：

#深度学习

pytorch 专栏收录该内容

0 篇文章

订阅专栏

为确保深度学习网络结构的实验结果可复现，本文介绍了一种通过固定随机种子的方法，实现对PyTorch中所有随机过程的控制。通过执行特定函数，可在每次构建模型或调用涉及随机数的函数前，统一设置随机种子，确保实验的一致性和可比性。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

参考链接：https://github.com/pytorch/pytorch/issues/7068
深度学习网络结构初始化需要设置随机种子，这个种子的忽略会导致一些结果无法复现。关于这点，上述链接有相关讨论，可以写一个函数来固定所有torch的种子：

import random
import torch
import numpy as np
import os
def seed_torch(seed=2018):
    random.seed(seed)
    os.environ['PYTHONHASHSEED'] = str(seed)
    np.random.seed(seed)
    torch.manual_seed(seed)
    torch.cuda.manual_seed(seed)
    torch.backends.cudnn.deterministic = True