- 博客(10)
- 收藏
- 关注
原创 A40, centos7配置unsloth,本地大模型微调记录,主要是 xformers 和 bitsandbytes 这两个包的问题
这样就会反复报错, 这也是之前报错没有 /bitsandbytes-0.45.2/bitsandbytes/libbitsandbytes_cuda124.so的原因,因为他使用的是老版本的cuda,所以产生的是libbitsandbytes_cuda117.so,这样的文件。首先是升级了一下cuda驱动版本,本来实验室用的是CUDA 11.7,也不知道为啥,用这么老的版本,实在是各种包的冲突解决不,只好升级了,群里问了下有人在用没,没人就升级了。下载下来,上传到服务器,运行,安装,全部选是就行了。
2025-03-25 15:07:08
659
原创 在docker中使用ollama,打包后迁移到新环境里,模型消失的问题
在docker中使用ollama,打包后迁移到新环境里,模型消失的问题
2024-11-28 20:33:02
2010
1
原创 解决苹果M1芯片运行torch.argmax()结果异常的方法,常见于将《动手学深度学习》一书中的代码在mps上训练时无法得出正确的accurcy的问题
解决苹果M1芯片运行torch.argmax()结果异常的方法,常见于将《动手学深度学习》一书中的代码在mps上训练时无法得出正确的accurcy的问题,如果你遇到的问题是在学习的过程中发现在m1芯片上训练神经网络时输出的可视化图片中分类精度一直为0的话,或许可以看看
2023-04-24 12:36:17
724
原创 牛客BM60,括号生成,python,自己的算法
牛客BM60,括号生成,官方的解答是回溯算法分别插入左括号和右括号,虽然速度是快一些,但是对我来说有点难以理解。我的算法是用列表存每一个括号,并在每一个可以插入一对括号"()"的地方插入“()”,这样有个问题是要去重,因此使用set来存储结果。似乎使用hash去除中间重复的节点可以进一步提高速度,但是懒得想了,遇到了再说吧
2023-03-24 18:31:16
144
原创 RuntimeError: CUDA error: no kernel image is available for execution on the driver的可能有效的解决方式
奇怪的问题,网上大部分解答都说Pytorch版本和cuda版本不符,但是通过torch.cuda.is_available()结果也是True,就很奇怪。搜了下github上的解答,解决问题RuntimeError: CUDA error: no kernel image is available for execution on the driver, when use pytorch 1.7 on linux with RTX 3090 · Issue #49161 · pytorch/py.
2022-05-26 20:01:30
1100
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人