ValueError: Expected parameter probs of distribution OneHotCategoricalStraightThrough() to satisfy

最新推荐文章于 2026-01-07 17:22:05 发布

原创最新推荐文章于 2026-01-07 17:22:05 发布 · 212 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#pytorch #深度学习

部署运行你感兴趣的模型镜像

https://github.com/pytorch/pytorch/issues/81027

使用Categorical分布的时候遇到报错：ValueError: Expected parameter probs (Tensor of shape (64, 32, 8, 16)) of distribution OneHotCategoricalStraightThrough() to satisfy the constraint Simplex(), but found invalid values:

解决办法：

1. 转换类型

因为我用的是bfloat16，sum起来不等于1，转换类型为float就好了

2. 设置参数

设置参数 validate_args=False 就可以忽略对sum=1的检查

您可能感兴趣的与本文相关的镜像

PyTorch 2.5

PyTorch

Cuda

PyTorch 是一个开源的 Python 机器学习库，基于 Torch 库，底层由 C++ 实现，应用于人工智能领域，如计算机视觉和自然语言处理

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

wander404

关注关注

2
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

大模型微调实战之 Transformer 强化学习（TRL Reinforcement Learning）（四） Direct Preference Optimization

大模型与Agent智能体

04-28

704

大模型微调实战之 Transformer 强化学习（TRL Reinforcement Learning）（四） Direct Preference Optimization 直接偏好优化（DPO）已成为微调新基础模型的方式。著名的 Mixtral 8x7B 是 Mistral 创建的稀疏专家混合模型，通过使用 DPO，能够以明显更少的参数达到 LLaMa 70B 的性能水平。当然，这种成功促使社区中的许多人开始使用 DPO 微调他们自己的模型。让我们深入了解 DPO 到底是什么以及如何走到这一步的首先

加载chatglm3模型时出现ValueError: too many values to unpack (expected 2)的解决方案

weixin_43178406的博客

07-28

10万+

本文主要介绍了加载chatglm3模型时出现ValueError: too many values to unpack (expected 2)的解决方案，希望能对使用ChatGLM 3的同学们有所帮助。文章目录 1. 问题描述 2. 解决方案

参与评论您还未登录，请先登录后发表或查看评论

ValueError: Expected parameter scale of distribution Normal to satisfy the constraint GreaterThan

weixin_45607635的博客

11-13

6397

ValueError: Expected parameter scale (Tensor of shape (2, 2)) of distribution Normal(loc: torch.Size([2, 2]), scale: torch.Size([2, 2])) to satisfy the constraint GreaterThan(lower_bound=0.0), but found invalid values:

ValueError: Expected parameter scale (Tensor of shape (2854529,)) of distribution Normal(loc: torch.

论文数据分析辅导,；论文人工智能辅导 huazhongxiaosx

09-01

1801

错误发生在`AutoDiagonalNormal`的`get_posterior`方法中，当尝试创建一个正态分布对象时，`scale`参数的值中有0，这违反了正态分布的标准差必须大于0的约束。1. **确保`scale`参数始终大于零**：在创建正态分布之前，使用`torch.clamp`或其他方法确保`scale`参数的所有值都大于一个很小的正数（例如`1e-6`）。2. **检查`scale`参数的计算**：如果`scale`是通过模型中的某些计算得到的，确保这些计算不会导致0或负数的结果。

Pytorch踩坑记录-Categorical

Wsfddy1993的博客

07-12

2795

Pytorch Categorical 使用/介绍/踩坑记录

scale of Laplace to satisfy the constraint GreaterThan(lower_bound=0.0)

weixin_40861777的博客

02-24

1068

scale of distribution Laplace to satisfy the constraint GreaterThan(lower_bound=0.0), but found invalid values:

毕设过程问题及解决

Anffen的博客

04-06

1840

做毕业设计过程中遇到的一些问题，整合成了散装bug集，仅作个人记录。主要工作是应用深度强化学习进行仿真实验（使用莫烦的A3C pytorch版代码，自己写了一个环境）。

使用LLaMA Factory微调时出现ValueError: Failed to convert pandas DataFrame to Arrow Table from file的解决方案

热门推荐

weixin_43178406的博客

09-09

15万+

本文主要介绍了使用LLaMA Factory微调时出现ValueError: Failed to convert pandas DataFrame to Arrow Table from file的解决方案，希望能对使用LLaMA Factory的同学们有所帮助。文章目录 1. 问题描述 2. 解决方案

强化学习AttributeError: XX object has no attribute seed ValueError: expected sequence of length at dim

oceancoco的博客

11-18

1002

时，运行还是报错我觉得应该是环境的问题，我一观察terminal所在的环境确实不是我想要进的环境甚至也不是base环境是在c盘的什么环境，之前我也经常进错环境，但是我也不清楚是为什么，但是我可以改正呀。标黄的地方和右下角应该是一致的如果不一致就要更改环境或者重新进如terminal。时显示我没有gym环境，并且我执行完。在terminal进行库的卸载安装时。一定要观察是否在你选择的环境中。更改了环境，代码才执行成功。之后在重新安装gym库。

pandas read_json时ValueError: Expected object or value的解决方案

herosunly的博客

10-20

4257

本文主要介绍了pandas read_json时ValueError: Expected object or value的解决方案，希望对新手有所帮助。文章目录 1. 问题描述 2. 解决方案 3. 另外一个常见问题及其解决方案

d2l安装（miniforge+cuda+pytorch）

Mike_69的博客

01-05

350

现在cmd中查看一下cuda的最高版本，我的是最高12.8，所以下载的是cuda12.6。3）打开miniforge prompt,新建环境(name 换成自己环境名字)anaconda收费，专用miniforge。5) 安装jupyter notebook。1）下载miniforge,并安装。2）查看电脑cuda版本，并安装。然后把命令复制进去运行即可。6）更换kernel。

基于 Golang+PyTorch 的 AI 推理镜像 Dockerfile 模板

shao.bing的专栏

01-07

536

多阶段构建：分离Golang编译、Python环境构建、运行阶段，最大化利用缓存并减小镜像体积；双环境适配：同时支持GPU/CPU部署，通过更换基础镜像即可切换；生产级规范：包含非root运行、健康检查、环境变量解耦，符合云原生运维标准；语言协同：Golang负责高性能API，Python/PyTorch负责推理，兼顾并发性能和AI生态完整性。

Pytorch创建自己的数据集，深度学习数据集通用教程

weixin_46587777的博客

01-06

837

本教程详细介绍了在PyTorch中创建自定义数据集的方法。主要内容包括：1）继承torch.utils.data.Dataset类并实现__init__、__len__和__getitem__三个核心方法；2）使用DataLoader实现批量加载和数据打乱；3）处理常见问题如图片尺寸不一致，建议使用transforms统一尺寸；4）数据增强技巧和高效加载方法。教程通过图像分类示例，展示了从数据准备到模型输入的完整流程，包括路径处理、图像转换和批处理验证。该框架通用性强，稍加修改即可应用于文本、音频等其他数据

03基于pytorch的深度学习遥感地物分类全流程实战教程（包含遥感深度学习数据集制作与大图预测）-实践篇-使用公开数据集进行深度学习遥感地物分类

lwbCUMT的博客

01-05

633

本文介绍了基于UNet模型的遥感地物分类实践，使用WHU建筑物数据集进行建筑物分割任务。首先详细说明了数据集的组成和结构（训练集4736幅、验证集1036幅、测试集2416幅512×512图像），并构建了RSDataset和RSDataLoader进行数据加载。然后实现了UNet模型架构，包含编码器-解码器结构和跳跃连接。在训练过程中采用交叉熵损失函数、SGD优化器和poly学习率调度策略，经过10轮训练后模型在测试集上取得了较好效果（准确率98.15%，F1分数91.71%）。最后展示了预测结果与真实标签

大模型核心技术解析

梦想天空

01-03

1055

本文系统介绍了大模型的核心组件、MoE结构、训练方法及模型蒸馏技术。核心组件包括RMSNorm归一化、RoPE位置编码和Self-Attention机制，并对比了不同注意力变体（MHA/GQA/MQA）。MoE部分详细解析了混合专家模型的结构设计与实现方法。训练方法涵盖预训练、SFT（含LoRA）、DPO和GRPO等算法，重点分析了损失函数设计。模型蒸馏部分阐述了通过软标签迁移知识的原理，包括温度调节和损失计算。全文通过理论推导和代码实现相结合的方式，全面展现了现代大语言模型的关键技术实现。

【Pytorch使用】CUDA 显存管理与 OOM 排查实战：以 PyTorch 联邦学习训练为例

Rabbit_QL的博客

01-06

850

本文分析了深度学习训练中常见的CUDA显存不足问题，探讨了模型过大、批次过大、内存碎片化等关键原因。提出了多层次的优化解决方案：通过环境变量设置减少内存碎片；合理调整批次大小；为每个客户端创建独立模型副本避免内存累积；主动清理中间变量和缓存；使用torch.no_grad()避免不必要的梯度计算。这些方法可有效缓解显存不足问题，提高GPU利用率，尤其适用于联邦学习等需要多模型实例的场景。

[Pytorch]MNIST数字识别训练与验证