【随机数种子】random.seed() torch.manual_seed() torch.cuda.manual_seed() torch.cuda.manual_seed_all()用法总结

碧寒

于 2023-07-18 11:53:40 发布

阅读量766

点赞数

文章标签： pytorch 深度学习 python

本文链接：https://blog.youkuaiyun.com/qq_39324954/article/details/131784113

版权

文章讲述了在Python中使用torch库进行实验时，如何通过设置随机种子来保证每次生成相同的随机数，以实现实验结果的可比性和一致性。对于CPU和GPU环境，分别使用torch.manual_seed和torch.cuda.manual_seed_all方法。还提到了deterministic模式，用于进一步控制cudnn的行为，确保在GPU上的计算也是确定性的。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

使用原因：
在需要生成随机数据的实验中，每次实验都需要生成数据。设置随机种子是为了确保每次生成固定的随机数，这就使得每次实验结果显示一致了，有利于实验的比较和改进。使得每次运行该 .py 文件时生成的随机数相同。

使用：

#为CPU中设置种子，生成随机数：

torch.manual_seed(number)

#为特定GPU设置种子，生成随机数：

torch.cuda.manual_seed(number)

#为所有GPU设置种子，生成随机数：

torch.cuda.manual_seed_all(number)

# 需要注意不要在终端中单行敲入运行如下代码，要将如下代码先拷贝到 *.py 文件中，再在终端命令中通过 python *.py 运行

import torch

if torch.cuda.is_available():
    print("gpu cuda is available!")
    torch.cuda.manual_seed(1000)
else:
    print("cuda is not available! cpu is available!")
    torch.manual_seed(1000)

print(torch.rand(1, 2))

def set_random_seed(seed, deterministic=False):
    random.seed(seed)
    np.random.seed(seed)
    torch.manual_seed(seed)
    # manual_seed_all 是为所有 GPU 都设置随机数种子。
    torch.cuda.manual_seed_all(seed)

    if deterministic:
        torch.backends.cudnn.deterministic = True
        torch.backends.cudnn.benchmark = False