- 博客(3)
- 收藏
- 关注
RSS订阅原创 langchain device ＞= 0 && device ＜ num_gpus INTERNAL ASSERT FAILED报错解决方法
时没有发生过这个错误。所以推测原因为在该行代码之前, torch的某些初始化设置已经提前使用了旧的"CUDA_VISIBLE_DEVICES", 导致GPU设备索引范围前后不一致。: 不要在Python代码中指定CUDA_VISIBLE_DEVICES, 或设置为0，1，然后直接在终端中用export修改该变量。报错原因: torch在检查设备编号时发生错误, 因为设备编号不在索引范围 [0, num_gpus] 内。在langchain-chatchat 0.2.10中加载本地LLM时，报错。
2024-12-11 11:27:59
264
原创 Pennylane使用pennylane-lightning[gpu]进行加速
目前pennylane-lightning[gpu]应该是只支持Linux系统，不知道有没有大佬能在win上成功安装。输出-1，说明成功了。实际测试确实比"default.qubit"、"lightning.qubit"快一些。2.安装NVIDIA cuQuantum SDK。3.安装lightning.gpu。1.安装Pennylane。
2024-11-22 10:39:22
1455
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人