- 博客(11)
- 收藏
- 关注
原创 LLaMAFactory微调框架的参数解读
通过低秩适配器(Low-Rank Adaptation)微调,仅训练少量参数,适合资源有限场景。(Half-Quadratic Quantization):高效量化,适合低精度推理。:冻结大部分层,仅微调特定层(如分类头),速度最快但灵活性低。:全参数微调,更新所有模型参数,效果最佳但显存消耗大。:8位或4位量化,大幅减少显存,但可能轻微降低效果。:最常用的量化库,支持8/4-bit,兼容性好。:梯度+参数分片,显存需求更低但通信开销更大。(监督微调):基础任务,用标注数据微调模型。
2025-03-10 17:37:04
875
原创 使用PyTorch训练模型时,常会遇到GPU显存不足的问题.GPU 0 has a total capacity of 23.64 GiB of which 1.61 GiB is free. Pro
模型微调
2025-03-10 17:13:57
985
原创 [WARNING|2025-03-04 09:31:59] llamafactory.webui.common:162 >> Cannot open data/dataset_info.json
查看自己启动web ui时是否在llamafactory的路径下,需要进入llamafactory文件中启动才能够发现对应的dataset_info.json。
2025-03-04 09:37:02
402
原创 `ModuleNotFoundError: No module named 问题指南
表示 Python 解释器在当前环境中找不到。常见原因包括:(比如说是requests)
2025-02-27 14:59:56
1205
原创 bug :npm ERR! cb() never called!npm ERR! This is an error with npm itself. Please report this erro
mian分支的代码有问题,切换分支后重新下载npm install就可以使用了。:使用的 npm 版本可能存在 bug 或与项目不兼容。:网络不稳定或连接中断可能导致 npm 无法完成操作。:项目依赖可能存在冲突,导致 npm 无法正确处理。确保你有足够的权限执行 npm 操作,必要时使用。:npm 操作所需的权限不足,导致操作中断。:npm 缓存可能损坏,导致操作失败。确保网络稳定,尝试重新运行命令。如果问题持续,可以尝试使用。
2025-02-17 16:13:44
703
原创 IDEA搭建spring boot时报错Error: Request failed with status code 500
解决:选择Maven。
2024-12-19 17:20:05
348
原创 解决问题$ husky install.git can‘t be found (see https://git.io/Jc3F9)error Command failed with exit co
原因:husky安装在与 .git 相同的目录中运行,项目可能直接安装导致husky寻找不到父目录中的.git文件夹。在frontend中的 package.json 下的 scripts 将本来的。更改成(其中的frontend可以更改成自己项目文件夹的名字)重新安装问题得到解决。
2024-12-19 13:31:15
969
原创 info There appears to be trouble with your network connection. Retrying...
所以需要按本地的代理 设置yarn访问代理(本地代理查看的话,点检浏览器 inter选项--> 连接 --> 局域网设置 )
2024-12-10 09:53:17
915
原创 解决remote: ERROR: [d52ba91] missing Change-Id in commit message footer
remote: ERROR: [d52ba91] missing Change-Id in commit message footer
2024-12-04 11:00:28
538
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人