- 博客(7)
- 收藏
- 关注
原创 大模型微调、量化、部署记录
本文记录了在RTX 4090D服务器上使用LLaMA-Factory微调qwen2.5-1.5B-Instruct模型的全过程。主要内容包括:1)通过WebUI界面完成模型微调,训练甄嬛风格对话机器人;2)使用llama.cpp工具进行模型量化和格式转换;3)通过Ollama实现本地模型部署。文中详细介绍了环境配置、数据处理、训练参数设置等技术细节,并提供了量化前后模型大小对比(从5.8G压缩到3.0G)和最终对话效果展示。该流程适用于需要快速实现大模型轻量化部署的场景。
2025-10-08 12:16:36
921
原创 MATLAB diagnosticFeatureDesigner 一般使用步骤
------------------------------------------------------正文开始-----------------------------------------------------------找了官网的视频看了也不是非常清楚,此处做一个记录,希望能帮到需要的小伙伴。细节省略,只做大致步骤说明。接下来就可以利用选择的特征进行分类训练了。我们还可以根据分类结果回到此步骤适当地调整和选择特征。选择想选择的特征或者全部选择,再点击OK。欢迎批评指正交流分享~
2023-03-29 17:29:42
1002
1
原创 功率谱(PS)和功率谱密度(PSD)是否一样、谱估计谱图纵轴数值为什么为负
功率谱(PS)和功率谱密度(PSD)是否一样、谱估计谱图纵轴数值为什么为负
2022-10-28 10:41:11
22347
3
原创 【谱估计spectral estimation翻译、分类、书籍、实现代码】
谱估计spectral estimation翻译、分类、书籍、实现代码
2022-09-28 09:45:27
531
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅