RuntimeError: CUDA out of memory. Tried to allocate 2.81 GiB (GPU 0； 14.73 GiB total capacity； 12.38

原创于 2020-12-03 20:24:56 发布 · 596 阅读

0 ·

CC 4.0 BY-SA版权

令人崩溃的坑专栏收录该内容

11 篇文章

订阅专栏

本文介绍了一种在遇到GPU内存溢出错误时的处理方法，特别是当使用PyTorch进行深度学习模型训练时。文中详细解释了如何通过释放缓存来解决运行时错误，并强调仅调用torch.cuda.empty_cache()可能不足以解决问题。

部署运行你感兴趣的模型镜像

        try:
            outputs = (model(train_datas)).cuda()
        except RuntimeError as exception:
            if "out of memory" in str(exception):
                print("WARNING: out of memory")
                if hasattr(torch.cuda, 'empty_cache'):
                    torch.cuda.empty_cache()
            else:
                raise exception

单独使用 torch.cuda.empty_cache() 不会奏效。