winycg的博客

tensorboard是一款数据分析可视化插件，可以记录在训练过程中的log信息并绘图。Pytorch中使用tensorboard的教程文档：https://pytorch.org/docs/stable/tensorboard.html?highlight=tensorboard#module-torch.utils.tensorboard运行命令后会在./runs/目录下生成对应的文件，之后使用如下命令进行可视化：会在对应端口号的网址，在浏览器中可以看到可视化结果：VSCode中集成了tensor

参考链接：https://www.cnblogs.com/hellcat/p/8512090.html由于pytorch会自动舍弃图计算的中间结果，所以想要获取这些数值就需要使用hook函数。hook函数包括tensor的hook和nn.Module的hook，用法相似。hook函数在使用后应及时删除，以避免每次都运行钩子增加运行负载。hook函数主要用在获取某些中间结果的情景，如中间某一层的输...

参考链接：机器之心环境方面查看Pytorch以及GPU相关信息：torch.__version__ # PyTorch versiontorch.version.cuda # Corresponding CUDA versiontorch.backends.cudnn.version() # Corresponding cuDNN ...

tensor复制可以使用clone()函数和detach()函数即可实现各种需求。cloneclone()函数可以返回一个完全相同的tensor,新的tensor开辟新的内存，但是仍然留在计算图中。detachdetach()函数可以返回一个完全相同的tensor,新的tensor开辟与旧的tensor共享内存，新的tensor会脱离计算图，不会牵扯梯度计算。此外，一些原地操作(in-pl...