【pytorch踩坑】UserWarning: Implicit dimension choice for softmax has been deprecated. Change the call t

最新推荐文章于 2024-11-29 16:18:33 发布
转载 最新推荐文章于 2024-11-29 16:18:33 发布 · 1.6w 阅读 · 14 ·
CC 4.0 BY-SA版权
原文链接：https://blog.youkuaiyun.com/york1996/article/details/84191229

本文详细解析了PyTorch中Softmax函数的使用方法，针对未指定dim参数的警告进行了说明，并提供了正确的代码修改建议。通过明确指定dim参数，可以避免未来版本可能的兼容性问题。

UserWarning: Implicit dimension choice for softmax has been deprecated. Change the call to include dim=X as an argument.
input = module(input)

这个警告的原因是softmax（）函数已经被弃用了，虽然程序还是可以运行成功，但是这个做法不被pytorch所赞成。这个写法在早期的pytorch版本是没有警告的，现在因为其他考虑，要加上有指明dim参数。

nn.Softmax()
改成

nn.Softmax(dim=1) #即在第1维上概率sum=1
dim=某个数字，这个数字可以根据自己的需要更改。
————————————————
版权声明：本文为优快云博主「York1996」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.youkuaiyun.com/york1996/article/details/84191229

UserWarning:Implicit dimension choice for softmax has been deprecated.原理及解决
爱在深秋
02-28 1597
如果用于图像处理，tensor shape为：B×C×H×W，则可以直接设置dim = 1。UserWarning:Implicit dimension choice for softmax has been deprecated. 消除警告的办法_York1996的博客-优快云博客_userwarning: implicit dimension choice for softmaxtorch.nn.Softmax()用法_Lins H的博客-优快云博客。
PyTorch | UserWarning: Implicit dimension choice for softmax has been deprecated. Change the call to
兰胖子的博客
02-22 6880
UserWarning: Implicit dimension choice for softmax has been deprecated. Change the call to include dim=X as an argument. 源程序大概是这样的： import torch.nn as nn ....... class gan(object): def __ini...
＜input＞:1: UserWarning: The .grad attribute of a Tensor that is not a leaf Tensor is being accessed.
爱在深秋
08-31 8476
在调试计算模型梯度的时候突然蹦出：:1: UserWarning: The .grad attribute of a Tensor that is not a leaf Tensor is being accessed.(持续更新，)
UserWarning: Implicit dimension choice for softmax has been deprecated. Change the call to include d
持续战斗状态的博客
04-29 3861
这个警告信息是因为在调用 PyTorch 中的 softmax 函数时没有传入 dim 参数，导致 PyTorch 无法确定在哪个维度上进行 softmax 操作。其中 dim 参数的具体取值要根据数据的维度而定，一般情况下是对分类数所在的维度进行 softmax，例如对于图片分类任务，通常是对最后一维（即通道数）进行 softmax，因为最后一维的大小就是分类数。
UserWarning: Implicit dimension choice for softmax has been deprecated.
Never say never
12-07 1591
这个警告的原因是函数已经被弃用了，虽然程序还是可以运行成功，但是这个做法不被pytorch所赞成。这个写法在早期的pytorch版本是没有警告的，现在因为其他考虑，要加上有指明dim参数。改成 dim=某个数字，这个数字可以根据自己的需要更改。
UserWarning: Implicit dimension choice for softmax has been deprecated. Change the call to include dim=X as an argument.
最新发布
11-23
我们正在解决PyTorch中的警告：UserWarning: Implicit dimension choice for softmax has been deprecated. Change the call to include dim=X as an argument. 这个警告是因为在调用softmax函数（或log_softmax）...
解决pytorch softmax警告UserWarning: Implicit ....Change the call to include dim=X as an argument.
weixin_42421914的博客
10-18 4022
softmax（）出现在早期的pytorch中，当时不提示警告，现在softmax（）函数已经被弃用，虽然程序还是可以运行成功，但是会给出警告。一般会设置成dim=0,1,2,-1的情况(可理解为维度索引)。其中2与-1等价，相同效果。当dim=0时， 是对每一维度相同位置的数值进行softmax运算，和为1。当dim=1时， 是对某一维度的列进行softmax运算，和为1。当dim=2时， 是对某一维度的行进行softmax运算，和为1。当dim=-1时， 是对某一维度的行进行softmax运算。
import matplotlib.pyplot as plt import torch import torch.nn as nn import torch.nn.functional as F from sklearn import datasets import numpy as np from torch.utils.data import TensorDataset,DataLoader import matplotlib.pyplot #数据读入从sklearn包datastets读入数据 x_data=datasets.load_iris().data#.data返回iris数据集所有输入特征 y_data=datasets.load_iris().target#.target返回iris数据集所有标签 #打乱 np.random.seed(116)#相同的随机种子 np.random.shuffle(x_data)#所有元素随机排序 np.random.seed(116) np.random.shuffle(y_data)#所有元素随机排序 torch.manual_seed(116) torch.cuda.manual_seed(116)#设置torch随机种子 #将数据集分割为训练集和测试集，训练集为前120行，测试集为后30行 x_train = x_data[:-30] y_train = y_data[:-30] x_test = x_data[-30:] y_test = y_data[-30:] #转化数据类型 train_x = torch.from_numpy(x_train) .type(torch.float32) train_y = torch.from_numpy(y_train) .type (torch.int64) test_x = torch.from_numpy(x_test).type(torch.float32) test_y = torch.from_numpy(y_test) .type (torch.int64) #TensorDataset（）可以对tensor进行打包即合并 train_ds = TensorDataset(train_x, train_y) test_ds = TensorDataset(test_x, test_y) #数据打包 train_dl = DataLoader(train_ds, batch_size=32) test_dl = DataLoader(test_ds, batch_size=32) lr=0.1#学习率为0.1 train_loss_results=[]#将每轮的loss记录在此列表中，为后续画loss曲线提供数据 test_acc=[]#将每轮的acc记录在此列表中，为后续画acc曲线提供数据 epoch=5000#循环500轮 loss_all=0#每轮分4个step，loss_all记录四个step生成的4个loss的和 # wl = tf.Variable(tf.random.truncated _normal([4, 3], stddev=0.1, seed=l)) # bl = tf.Variable(tf.random.truncated_normal([3], stddev=0.1, seed=1)) w1 = torch.randn([4, 3], requires_grad=True) b1 = torch.randn([3], requires_grad=True) w2 = torch.randn([3, 3], requires_grad=True) b2 = torch.randn([3], requires_grad=True) #便于随着训练的进行观察数值的变化 test_loss = [] test_acc = [] for epoch in range(epoch): # Compute the predicted outputs and the loss for step, (train_x, train_y) in enumerate(train_dl): y_pred = torch.matmul(train_x,w1)+b1 y_pred = F.softmax(y_pred) y_pred = torch.matmul (y_pred,w2)+b2 y_pred = F.softmax(y_pred) train_y_one_hot = F.one_hot (train_y, num_classes=3) .float() #loss = F.cross_entropy(y_pred, train_y_one_hot) loss = F.mse_loss (y_pred, train_y_one_hot) loss_all += loss.detach().numpy() # Compute the gradients and update the weights loss.backward() with torch.no_grad(): w1 -= lr * w1 .grad b1 -= lr * b1 .grad w2 -= lr * w2 .grad b2 -= lr * b2 .grad w1 .grad .zero_() b1.grad.zero_() w2.grad.zero_() b2.grad.zero_() #每个epoch，打印1oss信息 print("Epoch {1, loss: {}".format(epoch, loss_all / 4)) train_loss_results.append(loss_all/4)#将4个step的loss求平均记录在此变量中 loss_all=0#loss_al1归零，为记录下一个epoch的1oss做准备 # Compute the accuracy on the test set for step, (test_x, test_y) in enumerate(test_dl): with torch.no_grad(): y_test_pred = torch.matmul(test_x, w1) + b1 y_test_pred = F.softmax(y_test_pred) y_test_pred = torch.matmul(y_test_pred,w2) + b2 y_test_pred = F.softmax(y_test_pred) # train_y = F.one_hot (test_Y, num_classes=3) # print(train_y) # loss = F.mse_loss(y_test_pred, train_y) acc = (y_pred == test_y) .float () .mean()#计算正确率 # test_loss.append(acc) test_acc.append(acc) # 绘制1038曲线 plt.title('LOSS Function Curve') plt.xlabel('Epoch') plt.ylabel('Loss') plt.plot(train_loss_results,lable="$Loss")#画出train_loss_results的值，并连线。 plt.legend()#画出曲线坐标 plt.show() #绘制Accuracy曲线 plt.title('Acc Curve') plt.xlabel('Epoch') plt.ylabel('Acc') plt.plot(test_acc, label="$Accuracy$") plt.legend () plt.show()这段代码运行结果为D:\xiazai\envs\pytorch\python.exe D:\pycharm项目\pythonProject1\神经网络计算.py D:\pycharm项目\pythonProject1\神经网络计算.py:53: UserWarning: Implicit dimension choice for softmax has been deprecated. Change the call to include dim=X as an argument. y_pred = F.softmax(y_pred) D:\pycharm项目\pythonProject1\神经网络计算.py:55: UserWarning: Implicit dimension choice for softmax has been deprecated. Change the call to include dim=X as an argument. y_pred = F.softmax(y_pred) Traceback (most recent call last): File "D:\pycharm项目\pythonProject1\神经网络计算.py", line 72, in <module> print("Epoch {1, loss: {}".format(epoch, loss_all / 4)) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ ValueError: unmatched '{' in format spec 进程已结束，退出代码为 1 请指出错误原因并改正，最后给出改完后的完整代码
10-13
`UserWarning: Implicit dimension choice for softmax has been deprecated` 自 PyTorch 1.6 版本开始，`F.softmax()` 函数不再隐式选择维度，默认情况下不会对最后一个维度进行计算，因此需要显式指定 `dim` 参数...
【PyTorch】UserWarning: Implicit dimension choice for softmax has been deprecated.
AustinCyy的博客
11-29 867
【PyTorch】UserWarning: Implicit dimension choice for softmax has been deprecated.
UserWarning:Implicit dimension choice for softmax has been deprecated. 消除警告的办法
热门推荐
york1996的博客
11-17 2万+
UserWarning: Implicit dimension choice for softmax has been deprecated. Change the call to include dim=X as an argument.   input = module(input) 这个警告的原因是softmax（）函数已经被弃用了，虽然程序还是可以运行成功，但是这个做法不被pytor...
Implicit dimension choice for softmax has been deprecated. Change the call to include dim=X
u013925378的博客
02-20 2033
建立pycharm工程，运行pytorch中文网上的例子：https://www.pytorchtutorial.com/pytorch-simple-classifier/ 出现如下提示： Implicit dimension choice for softmax has been deprecated. Change the call to include dim=X 【对于softma...
UserWarning:Implicit dimension choice for softmax has been deprecated. Change the call to include..
龙雪的博客
04-25 3390
问题： UserWarning: Implicit dimension choice for softmax has been deprecated. Change the call to include dim=X as an argument. input = module(input) 这个警告的原因是softmax()函数已经被弃用了，虽然程序还是可以运行成功，但是这个做法不被py...
serWarning: Implicit dimension choice for softmax has been deprecated. Change the call to include di...
weixin_33709364的博客
11-13 366
torch版本的原因，torch0.4.1使用softmax时需要加上维度参数： p=torch.nn.functional.softmax(x,dim=1) 转载于:https://www.cnblogs.com/yangruicvpr/p/9953110.html
Implicit dimension choice for softmax has been deprecated. yolo
bc521bc的博客
03-01 845
警告信息： UserWarning: Implicit dimension choice for softmax has been deprecated. Change the call to include dim=X as an argument nn.Softmax()函数已经被弃用了，虽然程序还是可以运行成功，但是这个做法不被pytorch所赞成。 这个写法在早期的pytorch版本...
【bug】torch.nn.Softmax()报错.UserWarning: Implicit dimension choice for softmax has been deprecated
ting的博客
04-18 723
翻译一下，就是说用户警告:已弃用softmax的隐式尺寸选择。将调用更改为包含dim=X作为参数。torch.nn.Softmax(dim=1)可参考这篇文章，有图，挺清晰。，即在第1维上概率sum=1。
UserWarning: Implicit dimension choice for softmax has been deprecated
qihshe的博客
01-03 823
函数不再隐式选择维度，默认情况下不会对最后一个维度进行计算。为了解决这个警告并明确指定要应用。表示最后一个维度，这是通常用于分类任务时 softmax 的应用位置。自 PyTorch 1.6 版本开始，
【error】Implicit dimension choice for softmax has been deprecated. Change the call to include dim=X
ccbrid的博客
01-04 1万+
报错信息： Implicit dimension choice for softmax has been deprecated. Change the call to include dim=X as an argument. 错误行数： softmax = F.softmax(enout_att.squeeze(2))  回想: 错误发生在我更新了pytorch版本0.1更新到0.3，...
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值