ARYAD的博客

由于复现spade的过程中遇到了一些GPU的问题，所以决定好好理解一下DPL代码问题终端显示暂行不动，并没有报错。GPU没有加载进程，同时CPU也没有动。考虑可能是DPL的问题。由于代码中使用了Sync BatchNorm，考虑到可能是DPL的问题。nn.DataParallel在forward阶段，当前GPU上的module会被复制到其他GPU上，输入数据则会被切分，分别传到不同的GPU上进行计算；在backward阶段，每个GPU上的梯度会被求和并传回当前GPU上，并更新参数。也就是复制mo

pytorch跑Unet代码，gpu利用率在0%-20%闪现，主要问题是GPU一直在等cpu处理的数据传输过去。利用top查看cup的利用率也是从0省道100%且显然cup的线程并不多，能处理出的数据也不多。在一般的程序中，除了加载从dataloader中数据和model的运行需要gpu，其余更多的dataset、dataloader、loss的计算和日志的输出很多部分都需要cup的计算。所以，可以提升的方面包括 从class dataset的优化、dataloader的优化和其他部分代码的优化。当然代码

文章目录单机多卡显卡编号调用全部显卡调用指定编号显卡1. os.environ[“CUDA_VISIBLE_DEVICES”]详解2. torch.cuda主要函数3.关于unet分割一段指定gpu代码多机多卡单机多卡单机多卡情况一般有，单机双卡或者八卡比较常见。一般通过nvidia-smi查看gpu的规格和使用情况。gpu会被编上序号：[0,1,2,3,4,5,6,7]等。显卡编号在默认情况下，标号为0的显卡为主卡增加其他显卡为主卡语句：os.environ["CUDA_VISIBLE_D

findfind命令准确，但速度非常慢，它可以查找任何类型的文件使用格式如下find [指定目录] [指定条件] [指定动作]1参数说明[指定目录]： 所要搜索的目录及其所有子目录。默认为当前目录 [指定条件]： 所要搜索的文件的特征 [指定动作]： 对搜索结果进行特定的处理常用的[指定条件]-name：按文件名来查找文件 -user：按照文件的属主来查找文件 -group：按照文件所属的组来查找文件 -perm：按照文件权限来查找文件 -prune：不在当前指定

在使用parser过程中经常遇到parser.parse_args 出现systemexit 2具体如下：parser = argparse.ArgumentParser()# model argumentsparser.add_argument('--img_size', type=int, default=256, help='Image resolution')args = parser.parse_args() vscode