pytorch开发经验问题总结-更新ing

原创于 2021-07-21 22:21:09 发布 · 9k 阅读

11 ·

CC 4.0 BY-SA版权

Deep Learning 专栏收录该内容

172 篇文章

订阅专栏

本文介绍了在使用PyTorch时遇到的Caffe2线程池泄露警告及其解决方法，涉及数据加载器参数num_workers的调整。此外，还讨论了PyTorch模型中模块属性错误的问题，指出这可能是由于版本不匹配导致，并提供了解决方案。同时，解释了torch.cuda.synchronize()的作用，确保GPU计算完成后再进行时间测量。最后，提到了@torch.no_grad()修饰符在评估模型时的使用，以及如何在训练过程中调整学习率以优化模型性能。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

问题一：

[W pthreadpool-cpp.cc:90] Warning: Leaking Caffe2 thread-pool after fork. (function pthreadpool)
[W pthreadpool-cpp.cc:90] Warning: Leaking Caffe2 thread-pool after fork. (function pthreadpool)
[W pthreadpool-cpp.cc:90] Warning: Leaking Caffe2 thread-pool after fork. (function pthreadpool)
[W pthreadpool-cpp.cc:90] Warning: Leaking Caffe2 thread-pool after fork. (function pthreadpool)

parser.add_argument(’–num_workers’,default=1,type=int)

https://discuss.pytorch.org/t/dataloader-when-num-worker-0-there-is-bug/25643/37

问题二：

    raise ModuleAttributeError("'{}' object has no attribute '{}'".format(
torch.nn.modules.module.ModuleAttributeError: 'AnchorGenerator' object has no attribute '_cache'

原因是pytorch版本问题，训练模型和测试的版本不一致

问题三：

torch.cuda.synchronize()
model_time = time.time()

使用该操作等待GPU全部执行结束,再执行model_time = time.time()

问题四：
@torch.no_grad()
def evaluate(model, data_loader, device):

修饰符

问题五：
调整学习率
在这里插入图片描述