这篇博客介绍了PyTorch中管理梯度计算的关键概念，包括`requires_grad`的作用，如何使用`detach()`来移除变量与计算图的关联，以及在验证阶段如何利用`with torch.no_grad():`阻止梯度回溯，以优化验证过程的效率。
torch.Tensor 拒用 Requires_grad函数，用来规定某个函数是否有逆推梯度的反向传播。
使用detach()命令，可以将某个函数从梯度计算图中拿下来，也意味着在后面的计算中不考虑这个函数的梯度优化。
with torch.no_grad()，使用代码块来进行终止对计算图的回溯，一般用于验证集合。
扫一扫
评论
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
查看更多评论
添加红包
