CUDA out of memory. Tried to allocate 896.00 MiB. GPU 0 has a total capacity of 22.18 GiB of which 4

torch.OutOfMemoryError 错误表示 GPU 内存不足，无法为当前操作分配所需的内存。这通常是因为在加载模型或处理数据时，所需的 GPU 内存超过了可用的内存。以下是一些可能的解决方案：

1. 减小批处理大小

• 调整批处理大小：尝试减小输入的批处理大小（batch size），这样可以减少每次操作所需的 GPU 内存。

2. 释放显存

• 重启进程：如果在之前的运行中有未释放的显存，重启 Python 进程可能有助于释放内存。
• 清理显存：在使用 PyTorch 时，可以使用 torch.cuda.empty_cache() 手动清理未使用的显存。

3. 使用内存管理设置

• 设置内存配置：可以通过设置环境变量来优化内存管理：

  export PYTORCH_CUDA_ALLOC_CONF="max_split_size_mb:128"
  

  或者使用你提到的配置：

  export PYTO