PyTorch中nn.ReLU() 和 nn.ReLU(inplace=True)区别

nn.ReLU() 中默认的 inplace=False, 这个inplace意思：是否将计算得到的值直接覆盖之前的值
如果，inplace=True，那么就是会对原变量覆盖，没有通过中间变量，直接覆盖原变量的值
比如：

x=x+1

如果，inplace=False，通过中间变量，没用覆盖之前变量的值
比如：

y=x+1
x=y

这样就可以节省内（显）存，同时还可以省去反复申请和释放内存的时间。

所以 inplace=True 和 inplace=False 对计算结果没用影响，只是计算时，是否覆盖原变量的值的区别