Pytorch代码踩坑

最新推荐文章于 2025-05-08 11:48:14 发布
最新推荐文章于 2025-05-08 11:48:14 发布
阅读量558 收藏 1
点赞数
CC 4.0 BY-SA版权
分类专栏： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/wqwqqwqw1231/article/details/106195522

文章目录

1、CrossEntropy的weight的问题

在使用torch.nn.CrossEntropyLoss时，其中有个参数是weight，官方给出的文档中显示，weight是a manual rescaling weight given to each class，也就是一个缩放的尺度。但我发现，当另一个参数的reduction为mean的时候，会出现一些问题。

import torch
import torch.nn

pred = torch.tensor([[1,5],[2,2]]).float()
label = torch.tensor
最低0.47元/天 解锁文章

200万优质内容无限畅学
Pytorch 的损失函数Loss function使用详解
weixin_36670529的博客
05-11 1万+
目录 1、损失函数 1、nn.L1Loss 2、nn.SmoothL1Loss 3、nn.MSELoss 4、nn.CrossEntropyLoss 5、nn.BCELoss 6、nn.NLLLoss 7、nn.NLLLoss2d 8、BCEWithLogitsLoss 与 MultilabelSoftMarginLoss 9、比较BCEWithLogitsLoss和Tenso...
pytorch中Linear类中weight的形状问题源码探讨
墨流觞的博客
10-30 8049
import torch from torch import nn m = nn.Linear(20, 30) input = torch.randn(128, 20) output = m(input) print(output.size()) print(m.weight.shape) 来看一下输出： out: torch.Size([128, 30]) torch.Size([30,...
关于nn.CrossEntropyLoss交叉熵损失中weight和ignore_index参数
Henry的博客
04-13 8826
因为，label = 1有一个，label = 0 有两个，所以1的样本较少，这里就对label = 1设置权重大点。所以，loss = -(ln0.69+ln0.3543+ln0.5987)/3 = -（ln0.1464） / 3 = 0.6406。所以，在样本不均衡的情况下，加label少的样本，w加大，可以将loss变大，从而梯度下降的时候可以更好的弥补样本不平衡的问题。可以发现，label 是 0 1 2 三类，这里将label = 2的忽略，并且对0 1 2施加的权重为 2 1 2。
一文搞懂F.binary_cross_entropy以及weight参数
热门推荐
code_plus的博客
04-16 3万+
相信有很多人在用pytorch做深度学习的时候，可能只是知道模型中用的是F.binary_cross_entropy或者F.cross_entropy，但是从来没有想过这两者的区别，即使知道这两者是分别在什么情况下使用的，也没有想过它们在pytorch中是如何具体实现的。在另一篇文章中介绍了F.cross_entropy()的具体实现，所以本文将介绍F.binary_cross_entropy的具体实现。 当你分别了解了它们在pytorch中的具体实现，也就自然知道它们的区别以及应用场景了。 1、pytor
RuntimeError:Given groups = 1, weight of size [output_channel, input_channel, kernel_size,...
最新发布
weixin_42319617的博客
05-08 718
这个错误很常见，是卷积或者其他提取器发现输入的张量的通道数不符合其设定的输入通道数，通常在按照提示错误的行找到出错模块，打印一下形状以确认出错位置：如果是模块，直接打印，如果是张量就打印.shape。random.shuffle(image_files) #前面的排序是默认的，打乱是指定的。如果它确实都用的一样的环境的话，你明明可以直接看人家代码里用的什么环境aaa。上述设备上部署的不同的对比模型，还在调试形状符合与否的问题。或者从输入改起，让其输入的形状符合后续的维度上的要求；#构造训练集和验证集。
RuntimeError: Given groups=1, weight of size [14, 464, 1, 1], expected input问题解决
xiaowangyanjiu的博客
04-29 1万+
RuntimeError: Given groups=1, weight of size [14, 464, 1, 1], expected input问题解决
Pytorch安装踩坑之路
cj1561435010的博客
05-20 3274
我擦，Pytorch环境的搭建不得不说，真的有点烦，可能是自己菜吧。 1、选对正确的cuda版本        首先，先确保如果想下载pytorch1.5版本或以上的并且想要使用GPU加速的，确保CUDA版本在10.1及以上，10.0官网已经不支持了。如下图：        现在只需要安装对应版本的cuda就行了，安装pytorch的时候会自动下载适配的cudnn
second.pytorch安装踩坑实录
Left_control_right的博客
10-23 6334
写在前面 下载的时候一定要注意second.pytorch的版本，不然安装完spconv后，尝试Kitti Viewer Web的时候可能会一直报错“cannot import name 'rbbox_intersection'”，附上没有此问题的代码仓库：https://github.com/traveller59/second.pytorch/tree/v1.5.1 安装步骤 安装 克隆代码 ###如果克隆失败，可以手动进入仓库网址下载，再上传服务器### git clone https:/
pytorch的踩坑记录（随时更新）
weixin_41709956的博客
10-28 1093
1.RuntimeError: one of the variables needed for gradient computation has been modified by an inplace operation: balabala... 今天在尝试复现别人论文的过程中出现了以上错误，花了很长时间才解决，看到这篇文章（PyTorch 的 Autograd 链接：https://zhuanlan.zhihu.com/p/69294347）才解答了我的疑问 2.RuntimeError: CUDA
Windows上PyTorch3D安装踩坑记录
CoderJia的学习之路
06-20 3689
PyTorch3D安装在win10上过程记录
深度学习—— （5）数据不平衡之class_weight
羊羊的博客
07-20 1809
数据不平衡 class_weight loss_function
01_深度学习_类别不均衡的处理函数
chumingqian的博客
08-31 6915
Pytorch的nn.CrossEntropyLoss()的weight使用场景：现实工程中，经常出现以下情况：label标注的0-3四类，0类的比重过大，1类其次，2，3类都很少，怎么使用loss的weight来减轻样本不平衡问题？weight参数该如何设置？此时，比如设置loss weight代码，（0.1、 0.8、 1、 1 ）四个类别的比例是我自己设置的）...
Pytorch权值初始化及参数分组
Bear_Kai的专栏
08-12 7722
1. 参考MobileFaceNet_Pytorch-master中 from torch.optim import lr_scheduler # define optimizers ignored_params = list(map(id, net.linear1.parameters())) # id() 函数用于获取对象的内存地址 ignored_params += list(map(i...
pytorch查看模型weight与grad
u013517182的博客
01-30 7559
在用pdb debug的时候，有时候需要看一下特定layer的权重以及相应的梯度信息，如何查看呢？ 1. 首先把你的模型打印出来，像这样 2. 然后观察到model下面有module的key，module下面有features的key， features下面有(0)的key，这样就可以直接打印出weight了，在pdb debug界面输入p model.module.features[0]...
pytorch中交叉熵函数torch.nn.CrossEntropyLoss（）怎么加入权重
lidichengfo0412的博客
07-30 1万+
关于交叉熵函数torch.nn.CrossEntropyLoss的基本用法可参考https://blog.youkuaiyun.com/zziahgf/article/details/80196376。 那么如何在交叉熵函数中添加自定义的各类别的权重呢？定义参数weight即可，其中参数的内容要为tensor类型，而且要把dtype类型定义为float。用法为： ### 我的类别数为12 criterion ...
pytorch --- 二分类与多分类label及损失的使用
WGS.
08-17 1668
pytorch 二分类与多分类label及损失的使用
【论文阅读】【三维目标检测】StarNet: Targeted Computation for Object Detection in Point Clouds
麒麒哈尔的博客
01-08 1709
文章目录StarNetCenter selectionFeaturizing local point clouds AfterConstructing final predictions from bounding box proposals实验讨论 StarNet: Targeted Computation for Object Detection in Point Clouds Waymo出品...
TensorFlow手写数字识别实验-CNN（模板）
宋建国的博客
04-20 1728
1.黑马课程案例 import tensorflow as tf from tensorflow.examples.tutorials.mnist import input_data # 定义一个初始化权重的函数 def weight_variables(shape): w = tf.Variable(tf.random_normal(shape=shape, mean=0.0, st...
pytorch中的上采样以及各种反操作，求逆操作
zz2230633069的博客
10-22 1万+
import torch.nn.functional as F import torch.nn as nn   F.upsample(input, size=None, scale_factor=None,mode='nearest', align_corners=None) r"""Upsamples the input to either the given :attr...
pytorch装什么版本不踩坑
12-27
### 推荐稳定的 PyTorch 版本及安装注意事项 #### 选择合适的 PyTorch 版本 对于寻求稳定性而言，建议选用标记为稳定版（Stable）的 PyTorch 版本[^2]。这类版本经过充分测试，在性能和可靠性方面表现良好。 #### 安装环境准备 确保操作系统满足官方支持的要求；针对Windows用户来说，需确认所使用的发行版被列为受支持的对象之一[^1]。另外，Python 的版本也至关重要，通常较新的 Python 主流分支会获得更好的适配和支持。 #### 安装步骤概述 为了顺利完成安装并减少潜在错误的发生： - **确定硬件配置**：了解当前计算机配备的是哪种显卡及其对应的 CUDA 版本号。 - **匹配 CUDA 和 PyTorch**：注意不同版本间的兼容性问题。例如，较高版本的 CUDA 可向下兼容较低版本的应用程序接口(API)，这意味着如果设备上已安装有更高版本的 CUDA，则可以选择对应此条件下的最新稳定版 PyTorch 进行部署[^3]。 - **执行具体命令** 对于拥有特定 CUDA 配置 (如 CUDA 11.1) 的情况，可以通过如下方式来安装指定版本组合的 PyTorch、torchvision 和 torchaudio 组件： ```bash pip install torch==1.10.0+cu111 torchvision==0.11.0+cu111 torchaudio===0.10.0 -f https://download.pytorch.org/whl/torch_stable.html ``` 上述指令中的 URL 是指向包含预编译二进制文件的页面，这些文件适用于不同的平台架构与依赖关系设置。 - **验证安装成功与否** 完成以上操作之后，应当通过运行简单的代码片段或查阅库内建的帮助文档等方式检验是否正确加载了预期版本的软件包。
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值