【PyTorch】 RuntimeError: eye_out not supported on CUDAType for Bool

最新推荐文章于 2024-12-27 01:36:51 发布
原创 最新推荐文章于 2024-12-27 01:36:51 发布 · 972 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#深度学习 #python #pytorch

本文解决了在使用PyTorch的eye函数时遇到的错误：eye_out not supported on CUDA Type for Bool。通过将布尔类型更改为无符号整数8位（uint8），成功解决了CUDA设备上的类型不兼容问题。
部署运行你感兴趣的模型镜像

在执行 torch.eye(weights.size(1), dtype=torch.bool, device=weights.device) 这句话的时候，出现了报错信息。

RuntimeError: eye_out not supported on CUDAType for Bool

参考这篇文章，链接
将 dtype=torch.bool 改为 dtype=torch.uint8，即torch.eye(weights.size(1), dtype=torch.uint8, device=weights.device)

问题解决。

您可能感兴趣的与本文相关的镜像

PyTorch 2.5

PyTorch 2.5

PyTorch
Cuda

PyTorch 是一个开源的 Python 机器学习库，基于 Torch 库，底层由 C++ 实现，应用于人工智能领域，如计算机视觉和自然语言处理

RuntimeError: _thnn_nll_loss_forward not supported on CUDAType for Long
风口IT猪的成长录
08-07 1843
RuntimeError: _thnn_nll_loss_forward not supported on CUDAType for Long报错内容解决方案 报错内容 解决方案 更改报错位置tensor的数据类型 loss = F.nll_loss(decoder_outputs.double(), target, ignore_index=config.num_sequence.PAD) # 带权损失 即可搞定！ 参考：link ...
使用脚本加载数据集出现错误RuntimeError，如何解决？
最新发布
**My Coding Family**
08-03 1240
🏆本文收录于 《全栈Bug调优(实战版)》 专栏，该专栏专注于分享我在真实项目开发中遇到的各类疑难Bug及其深层成因，并系统提供高效、可复现的解决思路和实操方案。无论你是刚入行的新手开发者，还是拥有多年项目经验的资深工程师，本专栏都将为你提供一条系统化、高质量的问题排查与优化路径，助力你加速成长，攻克技术壁垒，迈向技术价值最大化与职业发展的更高峰🚀！
RuntimeError: _th_or not supported on CUDAType for Bool / IndexError: list index out of range（mask）
qq_38343151的博客
10-26 1640
记一次配使用maskrcnn-benchmark的惨痛经历，因为要用到分割，所以就使用自己的数据集转成coco格式后用maskrcnn-benchmark来训练得到目标的轮廓，但是在运行的过程中报了两个错误，很致命。 首先配置好环境，这里我就犯了一个错误，把pytorch版本装的太高了，我用的是pytorch==1.4.0，结果训练的时候报错selected_polygons.append(self.polygons[i]) IndexError: list index out of range 我查了
本地部署Qwen2大模型之四：模型参数调整
F8_11的博客
12-27 1791
继续深入调试vLLM方式部署Qwen2大模型，经过各种尝试，最后终于跑起来了，完成一问一答。
RuntimeError: empty is not implemented for type CUDABoolType
qq_38343151的博客
04-22 993
Actually, there are three places required to be modified listed as follows： 1、maskrcnn_benchmark/structures/segmentation_mask.py 2、maskrcnn_benchmark/modeling/balanced_positive_negative_sampler.py 3、m...
: _thnn_conv2d_forward not supported on CPUType for Byte
qq_35037684的博客
07-23 1415
推理的时候将图片转换为np.float32类型 def Forward(self, image, ir_box): self.Preprocess(image, ir_box) self.living_ir_img = np.float32(self.living_ir_img) test_output = self.net.forward(torch.from_numpy(self.living_ir_img)) ir_map = n
RuntimeError: Could not infer dtype of complex (PyTorch暂不支持复数数据类型)
风筝大晒的博客
02-13 1万+
# 输入1 torch.tensor([1 + 1j]) # 报错信息 # RuntimeError: Could not infer dtype of complex # 输入2 torch.tensor([1 + 1j], dtype=torch.complex128) # 报错信息 # RuntimeError: Could not run 'aten::empty.memory_fo...
pytorch转onnx: step = 1 is currently not supported以及Exporting the operator silu to ONNX opset version
weixin_37889356的博客
12-02 7123
在yolov5s的pytorch模型转换onnx模型时报如下错误： RuntimeError: step!=1 is currently not supported 原因主要是低版本的opset不支持切片操作导致的； 把模型转换的代码改成如下所示即可，即使用版本11以上的opset： torch.onnx.export(model, img, "xxx.onnx", verbose=True,opset_version=11,export_params=True) 解决该问题后可能会继续出现
解决“RuntimeError: expected backend CUDA and dtype Float but got backend CUDA and dtype Half”问题
SpadgerZ的博客
02-23 1730
问题描述 在运行Gituhub程序的时候，出现报错 ...... y[..., 0:2] = (y[..., 0:2] * 2. - 0.5 + self.grid[i].to(x[i].device)) * self.stride[i] # xy RuntimeError: expected backend CUDA and dtype Float but got backend CUDA and dtype Half 解决方法 经过网上搜索相关博客之后，发现可能是Pytorch的版本问题
Development Problems Based On PyTorch
woxiwangxuehaocpp的专栏
11-22 1571
PyTorch工程实践中的经验总结
pytorch报错 jupyter notebook 错误：RuntimeError: _th_normal not supported on CPUType for Long
CSPhD-winston的博客
03-24 891
错误： RuntimeError: _th_normal not supported on CPUType for Long import torch torch.normal(mean=0.5,std=torch.arange(1, 6)) 解决方案：tensor的数据类型换一下。 import torch torch.normal(mean=0.5,std=torch.arange(1, 6...
已解决 RuntimeError: CUDA error: out of memory.
shibadadao233的博客
07-24 1万+
代码在服务器上运行出错，RuntimeError: CUDA error: out of memory CUDA kernel errors might be asynchronously reported at some other API call,so the stacktrace below might be incorrect. For debugging consider passing CUDA_LAUNCH_BLOCKING=1.
RuntimeError: _th_normal not supported on CPUType for Long
刘宏宇的博客
10-10 7802
解决方案：tensor的数据类型换一下。
PyTorch(总)——PyTorch遇到令人迷人的BUG与记录
热门推荐
hudongloop的博客
06-28 12万+
这篇博客就用来记录在使用pytorch时遇到的BUG，虽然年纪大了，但是调出BUG还是令人兴奋^_^! BUG1： 在使用NLLLoss()激活函数时，NLLLoss用来做n类分类的，一般最后一层网络为LogSoftmax，如果其他的则需要使用CrossEntropyLoss。其使用格式为：loss(m(input), target)，其中input为2DTensor大小为（minibatch...
运行 conv2d错误:RuntimeError: _thnn_conv2d_forward not supported on CPUType for Long
m0_47516549的博客
12-14 3717
先看一下源代码：（怎么可能会有错，毕竟我是复制的土堆的代码） import torch import torch.nn.functional as F input = torch.tensor([[1, 2, 0, 3, 1], [0, 1, 3, 3, 1], [1, 2, 1, 0, 0], [5, 2, 3, 1, 1],
iOS项目运行出现警告：This application does not support this device’s CPU type？
木木三的专栏
01-10 3041
转载自：https://blog.csdn.net/yuhao309/article/details/80926989 错误原因： 由于苹果已经淘汰了32位的Application，所以爆出警告不支持该设备了。 解决方法： Product—>Targets—>Build Setting—>Architectures—>修改为Standard architecture...
CUDA 错误类型
todayq的专栏
12-19 2万+
CUDA error types Enumerator:     cudaSuccess     The API call returned with no errors. In the case of query calls, this can also mean that the operation being queried is complete (see cudaEventQue
代码报错整理
surprising
09-17 7143
OpenCV(4.1.0) /io/opencv/modules/imgproc/src/color.cpp:182: error: (-215:Assertion failed) !_src.empty() in function ‘cvtColor’ 读取图片的路径不对，更改路径后便正确
我是离线推理，不需要发送http请求，我是本地直接请求。 def get_requests(args, tokenizer): # Common parameters for all dataset types. common_kwargs = { "dataset_path": args.dataset_path, "random_seed": args.seed, } sample_kwargs = { "tokenizer": tokenizer, "lora_path": args.lora_path, "max_loras": args.max_loras, "num_requests": args.num_prompts, "input_len": args.input_len, "output_len": args.output_len, } if args.dataset_path is None or args.dataset_name == "random": sample_kwargs["range_ratio"] = args.random_range_ratio sample_kwargs["prefix_len"] = args.prefix_len dataset_cls = RandomDataset elif args.dataset_name == "sharegpt": dataset_cls = ShareGPTDataset if args.backend == "vllm-chat": sample_kwargs["enable_multimodal_chat"] = True elif args.dataset_name == "sonnet": assert tokenizer.chat_template or tokenizer.default_chat_template, ( "Tokenizer/model must have chat template for sonnet dataset." ) dataset_cls = SonnetDataset sample_kwargs["prefix_len"] = args.prefix_len sample_kwargs["return_prompt_formatted"] = True elif args.dataset_name == "burstgpt": dataset_cls = BurstGPTDataset elif args.dataset_name == "hf": common_kwargs["no_stream"] = args.no_stream if args.dataset_path in VisionArenaDataset.SUPPORTED_DATASET_PATHS: dataset_cls = VisionArenaDataset common_kwargs["dataset_subset"] = None common_kwargs["dataset_split"] = "train" sample_kwargs["enable_multimodal_chat"] = True elif args.dataset_path in InstructCoderDataset.SUPPORTED_DATASET_PATHS: dataset_cls = InstructCoderDataset common_kwargs["dataset_split"] = "train" elif args.dataset_path in ConversationDataset.SUPPORTED_DATASET_PATHS: dataset_cls = ConversationDataset common_kwargs["dataset_subset"] = args.hf_subset common_kwargs["dataset_split"] = args.hf_split sample_kwargs["enable_multimodal_chat"] = True elif args.dataset_path in AIMODataset.SUPPORTED_DATASET_PATHS: dataset_cls = AIMODataset common_kwargs["dataset_subset"] = None common_kwargs["dataset_split"] = "train" else: raise ValueError(f"Unknown dataset name: {args.dataset_name}") # Remove None values sample_kwargs = {k: v for k, v in sample_kwargs.items() if v is not None} return dataset_cls(**common_kwargs).sample(**sample_kwargs) 这个是从数据集中构建请求； llm_outputs = llm.generate( input_ids=input_ids, attention_mask=attention_mask, max_new_tokens=32, do_sample=False, ) 这个是根据请求，生成响应。
07-29
raise RuntimeError("模型文件不完整，请先下载完整模型到本地[^1]") # ...其余代码... ``` ### 5. 完整离线推理示例 ```python import os import torch from transformers import AutoModelForCausalLM, ...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值