weixin_44465329的博客

B样条

如何将其他显卡设置为主卡呢？os.environ["CUDA_VISIBLE_DEVICES"] = "2,0,1"#此时默认主卡为2号实际显卡model = torch.nn.DataParallel(model, device_ids=[0,1]).cuda()#此时只用上0和1号运算显卡，实际上是2号和0号实际显卡torch.cuda主要函数import torchprint(torch.cuda.is_available())#判断GPU是否可用os.environ["CUDA_VIS

怎么分布式训练模型当一台电脑有多个GPU时，可以进行分布式训练device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")if torch.cuda.device_count() > 1: print('we have ',torch.cuda.device_count(),'GPUs') model = nn.DataParallel(model,device_ids=[0,1])#DataParallel会

跑深度学习模型的时候怎么实时查看GPU状态windows中在CMD中，输入nvidia-smi -l 2 #每2秒刷新一次Linux中在终端中，输入watch -n 2 nvidia-smi #每2秒刷新一次