[Pytorch]: 错误汇总

最新推荐文章于 2025-04-24 16:19:36 发布

chamsu

最新推荐文章于 2025-04-24 16:19:36 发布

阅读量1.9k

点赞数

CC 4.0 BY-SA版权

分类专栏： Pytorch

本文链接：https://blog.youkuaiyun.com/cham_3/article/details/76132846

Pytorch 专栏收录该内容

1 篇文章

订阅专栏

本文介绍了一个关于自定义后向传播实现中常见的错误——在PyTorch中使用save_for_backward时，尝试保存非输入或输出张量的变量。通过实例展示了如何正确地在前向传播过程中修改权重，避免引发运行时错误。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

关于自定义后向传播错误

Traceback (most recent call last):
  File "/xxx/xxx/xxx.py", line 217, in <module>
    output = L.forward(x, label)
  File "/xxx/xxx/xxx.py", line 201, in forward
    return xxx()(input, target, self.weight)
RuntimeError: save_for_backward can only save input or output tensors, but argument 2 doesn't satisfy this condition

分析：出现这个错误是我在forward中改变了weight这个变量，weight=weight.div(scalar)，这导致参数不符合save_for_backward的要求。
解决：在forward中要改变weight的值可以使用就地运算weight.div_(scalar)。这样即改变也weight的值，又不改变原本的指向。

遇到其它问题会更行，待续…