guihuo2889的博客

https://blog.youkuaiyun.com/luanpeng825485697/article/details/78387573

转载自https://ptorch.com/news/160.html一、不要在循环训练中累积历史记录。默认情况下，涉及需要求导/梯度gradients变量的计算将保存在内存中。计算中避免使用这些变量，例如在跟踪统计数据时，这些变量在循环训练中将超出你内存。相反，您应该分离变量或访问其基础数据。有时，当可微分变量可能发生时，它可能并不明显。考虑以下循环训练（从源代码删减）：total_lo...

转载于：http://www.cnblogs.com/darkknightzh/p/6836568.htmlPyTorch默认使用从0开始的GPU，如果GPU0正在运行程序，需要指定其他GPU。有如下两种方法来指定需要使用的GPU。类似tensorflow指定GPU的方式，使用CUDA_VISIBLE_DEVICES。1.1 直接终端中设定：CUDA_VISIBLE_DEVICES=...

Pytorch安装教程windows版本conda安装1.cuda9.0 python3.6/3.5/3.7conda install pytorch -c pytorchpip3 install torchvision2.cuda8.0 python3.6/3.5/3.7conda install pytorch cuda80 -c pytorchpip3 install to...

转载自：http://spytensor.com/index.php/archives/32/自定义根据 epoch 改变学习率。这种方法在开源代码中常见，此处引用 pytorch 官方实例中的代码 adjust_lrdef adjust_learning_rate(optimizer, epoch): """Sets the learning rate to the initial ...