CUDA报错:Out of Memory

如果报错里提示Pytorch reserved的内存远大于Already allocated的内存，那么就是因为分配显存时单位过大，导致出现大量内存碎片无法继续分配（与操作系统内存管理同理）。

我们可以限制一次分配的最大单位来解决这个问题。

vim ~/.bashrc
#然后在文件中加入下面这行
export PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:32
#保存退出，然后运行下面的指令
source ~/.bashrc

随后代码便可正常运行了。