chaihanlin的博客

在 PyTorch 中，是一个上下文管理器，用于在进行推理（预测）时关闭梯度计算。通常在训练过程中，我们需要计算梯度来更新模型的权重，但在推理阶段，计算梯度是不必要的，因此可以通过来关闭梯度计算，从而节省计算资源，提高性能。

将模型设置为评估模式，影响层如 dropout 和 batch normalization，确保推理时结果稳定。：将模型设置为训练模式，启用 dropout 和 batch normalization 的训练行为。通常，在训练时使用，在进行推理和评估时使用。

为了能够复现数据，我们可以使用seed 来控制生成的随机数。设置seed数据来设定指定的随机数列，每次调用 随机数生成函数 ，就会从随机数列种读取数据，所以重复运行相同的随机数生成函数，得到的值并不相同。

这个错误是由于TensorBoard的hparams插件和protobuf库版本之间的不兼容导致的。核心问题是MessageToJson方法的参数including_default_value_fields不被当前版本的protobuf支持。protobuf5.*版本报错，3.2版本可行，与tensorboard版本无关。

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。本文链接：https://blog.youkuaiyun.com/weixin_44613063/article/details/90815082weixin_44613063/article/details/90815082import torchimport torch.nn as nnimport torch.nn.functional as Fimport torch.optim as optim

X∼N(μ,σ2)X\sim N(\mu,\sigma^2)X∼N(μ,σ2)Y=X−μσ∼N(0,1)Y = \frac{X-\mu}{\sigma}\sim N(0,1)Y=σX−μ​∼N(0,1)f(x)=12πσexp⁡(−(x−μ)22σ2)f(x)=\frac{1}{\sqrt{ 2\pi }\sigma} \exp (-\frac{(x-\mu)^2}{2\sigma^2})f(x)=2π​σ1​exp(−2σ2(x−μ)2​)μ\muμ期望σ\sigmaσ标准差...