LLaMA Factory：从预训练到RLHF，大模型高效训练框架，大模型入门到精通，收藏这篇就足够了！

关注

原创最新推荐文章于 2026-04-24 11:27:40 发布 708 阅读 AI 写同款· GEO 优化 ›

快速上手！LLaMa-Factory最新微调实践，轻松实现专属大模型 近日，源2.0开源大模型与LLaMA-Factory框架完成全面适配，用户通过LLaMA-Factory，即可快捷、高效地对不同参数规模的源2.0基础模型进行全量微调及高效微调，轻松实现专属大模型。阅读详情

在这里插入图片描述

LLaMA Factory 是一个高效、易用、可扩展的开源大模型高效训练框架，在GitHub开源社区获得超过25000关注，得到多家国内外企业的关注或落地应用。

Paper：LlamaFactory: Unified Efficient Fine-Tuning of 100+ Language Models
Abs：http://arxiv.org/abs/2403.13372
Code：https://github.com/hiyouga/LLaMA-Factory

项目特色

• 多种模型：LLaMA、LLaVA、Mistral、Mixtral-MoE、Qwen、Yi、Gemma、Baichuan**、ChatGLM、Phi 等等。
• 集成方法：（增量）预训练、（多模态）指令监督微调、奖励模型训练、PPO 训练、DPO 训练、KTO 训练、ORPO 训练等等。
• 多种精度：16 比特全参数微调、冻结微调、LoRA** 微调和基于 AQLM/AWQ/GPTQ/LLM.int8/HQQ/EETQ 的 2/3/4/5/6/8 比特 QLoRA 微调。
• 先进算法：GaLore、BAdam、DoRA、LongLoRA、LLaMA Pro、Mixture-of-Depths、LoRA+、LoftQ**、PiSSA 和 Agent 微调。
• 实用技巧：FlashAttention-2、Unsloth、RoPE scaling、NEFTune 和 rsLoRA。
• 实验监控：LlamaBoard、TensorBoard、Wandb、MLflow 等等。
• 极速推理：基于 vLLM 的 OpenAI 风格 API、浏览器界面和命令行接口。

性能指标

与 ChatGLM 官方的 P-Tuning[1] 微调相比，LLaMA Factory 的 LoRA 微调提供了 3.7 倍的加速比，同时在广告文案生成任务上取得了更高的 Rouge 分数。结合 4 比特量化技术，LLaMA Factory 的 QLoRA 微调进一步降低了 GPU 显存消耗。

在这里插入图片描述

支持模型

模型名	模型大小	Template
Baichuan 2[2]	7B/13B	baichuan2
BLOOM/BLOOMZ[3]	560M/1.1B/1.7B/3B/7.1B/176B	-
ChatGLM3[4]	6B	chatglm3
Command R[5]	35B/104B	cohere
DeepSeek (Code/MoE)[6]	7B/16B/67B/236B	deepseek
Falcon[7]	7B/11B/40B/180B	falcon
Gemma/Gemma 2/CodeGemma[8]	2B/7B/9B/27B	gemma
GLM-4[9]	9B	glm4
InternLM2[10]	7B/20B	intern2
Llama[11]	7B/13B/33B/65B	-
Llama 2[12]	7B/13B/70B	llama2
Llama 3[13]	8B/70B	llama3
LLaVA-1.5[14]	7B/13B	vicuna
Mistral/Mixtral[15]	7B/8x7B/8x22B	mistral
OLMo[16]	1B/7B	-
PaliGemma[17]	3B	gemma
Phi-1.5/Phi-2[18]	1.3B/2.7B	-
Phi-3[19]	4B/7B/14B	phi
Qwen/Qwen1.5/Qwen2 (Code/MoE)[20]	0.5B/1.5B/4B/7B/14B/32B/72B/110B	qwen
StarCoder 2[21]	3B/7B/15B	-
XVERSE[22]	7B/13B/65B	xverse
Yi/Yi-1.5[23]	6B/9B/34B	yi
Yi-VL[24]	6B/34B	yi_vl
Yuan 2[25]	2B/51B/102B	yuan

支持的训练方法

方法	全参数训练	部分参数训练	LoRA	QLoRA
预训练	✅	✅	✅	✅
指令监督微调	✅	✅	✅	✅
奖励模型训练	✅	✅	✅	✅
PPO 训练	✅	✅	✅	✅
DPO 训练	✅	✅	✅	✅
KTO 训练	✅	✅	✅	✅
ORPO 训练	✅	✅	✅	✅
SimPO 训练	✅	✅	✅	✅