qq_42902997的博客

【代码】pytorch学习之：使用 warm up 方法构造优化调度器优化神经网络参数。

【代码】pytorch 错误解决：NotImplemented Error。

pytorch Pretrain 模型下载位置，如何使用 cuda 训练，如何使用多个 gpu 训练

与 NLLLoss 的情景一样，我们依然沿用刚才的。['吃', '饭']

【代码】pytorch 学习之：冻结某些网络层参数；查看可训练的参数数量。

参考资料：bilibili https://www.bilibili.com/video/BV13a411u7G5?p=23&spm_id_from=pageDriver&vd_source=e162db2199c43956dc501bc6c0725612

【代码】NLP学习之：如何使用 torchtext 构建数据。

错误原因使用了 torch.load() 加载模型解决办法使用 model.load_state_dict(torch.load(./model.pt,map_location=‘cpu’),strict=False)map_location：当模型训练的时候用的 gpu 但是加载的时候用的是 cpu 环境，这个时候要进行映射strict=False 否则容易报错：Unexpected key(s) in state_dict: “lstm.weight_ih_l3”, “lstm

代码from torchray.attribution.grad_cam import grad_camfrom torchray.benchmark import get_example_data, plot_example# Obtain example data.model, x, category_id, _ = get_example_data()# Grad-CAM backprop.saliency = grad_cam(model, x, category_id, salie

代码torch.argmax 可以返回一个值在张量中展平后的索引位置在这种条件下要得到最大的值，要先把张量展平才能得到相应的值t1 = torch.Tensor([[1,2,3,4],[2,2,3,4]])t1tensor([[1., 2., 3., 4.], [2., 2., 3., 4.]])index = torch.argmax(t1)indextensor(3)t1.view(-1)[index]tensor(4.)参考文献pytorch查找矩阵中最

https://blog.youkuaiyun.com/weixin_41712499/article/details/111295683

https://blog.youkuaiyun.com/weixin_39589455/article/details/114680465?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522164250665916781685395052%2522%252C%2522scm%2522%253A%252220140713.130102334.pc%255Fall.%2522%257D&request_id=16425066591678168539505

问题分析就像是字面意思那样，这个错误是因为模型中的 weights 没有被转移到 cuda 上，而模型的数据转移到了 cuda 上而造成的但是造成这个问题的原因却没有那么简单。绝大多数时候，造成这个的原因是因为你定义好模型之后，没有对模型进行 to(device) 而造成的，但是，也有可能，是因为你的模型在定义的时候，没有定义好，导致模型的一部分在加载的时候没有办法转移到 cuda上。细节举例比如我现在定义了一个模型 A，B，它们的结构如下：# @Time : 2022/1/19 1

1. 在服务器上指定一个特定的访问端口一般我们配置好 jupyter notebook 之后，启动的时候只需要使用命令：jupyter notebook即可。但是现在是特殊的情况，我们需要指定一个端口：jupyter notebook --no-browser --port=88892. 使用 ssh 在本机（localhost）指定一个端口来和服务器的 8889 端口对接按住 windows + R ，输入 cmd 调出本地终端界面输入下面内容ssh -N -f -L localh

import torchfrom torch import nnimport numpy as npclass LinearModel(torch.nn.Module): def __init__(self, input_dim, output_dim): super().__init__() # 定义线性层 self.linear_layer = nn.Linear(input_dim, output_dim) # 定义前向传播的方

低级API构建神经网络import torch from torch.autograd import Variableimport torch.nn.functional as Fimport matplotlib.pyplot as pltx = torch.unsqueeze(torch.linspace(-1,1,100),dim=1)y = x.pow(2) + 0.2*to...

Import 部分import torch from torch.autograd import Variableimport torch.nn.functional as Fimport matplotlib.pyplot as plt【torch】 pytorch模块【torch.autograd】 顾名思义，autograd -->自动梯度运算，所以要进行梯度运算来完成前...