weixin_45311418的博客

但是该方法会导致叶节点丢失，无法反向传播求导。而在一张计算图中，缺少了对叶节点反向传播求导数的相关运算，计算图也就失去了核心价值。因此在实际操作过程中，应该尽量避免导致叶节点丢失的相关操作。当然，如果出现了一定要修改叶节点的取值的情况，典型的如梯度下降过程中利用梯度值修改参数值时，可以使用此前介绍的暂停追踪的方法，如使用。从报错信息中可知，PyTorch中不允许叶节点使用in-place operation，根本原因是会造成叶节点和其他节点类型混乱。来返回可微张量的取值，从在避免在修改的过程中被追踪。

在每一节课程的开头，我们都要导入常用包，由于这项工作重复而固定，因此我们也可以通过配置jupyter（准确来说应该是ipython）的startup文件，来使得每次新创建一个ipy文件时，都能够自动加载配置好的包，从而就能免去每节开头导入包的相关操作。（所以说，懒惰是推动技术进步的不竭动力。