Tensor.detach的作用是什么

解释

Tensor.detach() 的作用是阻断反向梯度传播，在生成对抗网络的训练当中，在训练判别器的时候不需要生成器进行反向梯度传播，这时候就会使用到 detach()。

例子

我们先生成一个张量 a，其 requires_grad = True，再通过 a 和 a.detach() 构造 b 和 c 对照实验：


可以看到，c 的 requires_grad = False，c 不会反向梯度传播给 a 。