- 博客(5)
- 收藏
- 关注
RSS订阅原创 【大模型指令微调: 从零学会炼丹】第四章: Ollama 微调后大模型部署]
本文首先介绍了ollama以及常用的命令, 基于这些命令可以快速使用ollama 部署开源大模型,结合后续介绍的模型转为GGUF文件和创建Modelfile文件,即可将我们微调后的大模型导入到ollama 中
2024-10-04 15:41:15
4386
2
原创 【大模型指令微调: 从零学会炼丹】第三章: Q-LoRa 微调phi-3.5-mini
我们将在本文中完成对phi-3.5-mini 的Q-Lora训练, 这在垂直领域的部署中格外的重要, 相应的其他模型的训练方法也可以参照本实验
2024-10-01 21:34:09
2591
4
原创 【大模型指令微调: 从零学会炼丹】第二章: 数据集预处理
文章简述了fine-tune 前的数据预处理步骤, 包括了序列化, 模版拼接等步骤,以及遇到的显存溢出问题分析
2024-09-30 15:21:21
2058
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人