LLaMA-Factory：大语言模型微调框架（大模型）

最新推荐文章于 2025-05-08 14:02:50 发布
原创 最新推荐文章于 2025-05-08 14:02:50 发布
· 5k 阅读 · 38 ·
版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#llama #人工智能 #prompt #ai大模型 #agi #产品经理 #LLM

简介： LLaMA-Factory 是一个国内北航开源的低代码大模型训练框架，专为大型语言模型（LLMs）的微调而设计

LLaMA-Factory：大语言模型微调框架

在这里插入图片描述

一、功能特点

LLaMA-Factory 是一个国内北航开源的低代码大模型训练框架，专为大型语言模型（LLMs）的微调而设计。其主要功能特点包括：

  1. 高效且低成本：能够高效且低成本地支持对100多个模型进行微调，简化了模型微调的过程。
  2. 易于访问和使用：提供了友好的用户界面，用户无需编写代码即可轻松定制和微调LLMs。
  3. 丰富的数据集选项：支持多个数据集选项，用户可以选择自带的数据集或自己生成数据集进行微调。
  4. 多样化的算法支持：集成了业界最广泛使用的微调方法和优化技术，如LoRA、GaLore、DoRA等。
  5. 实时监控和评估：支持集成TensorBoard、VanDB和MLflow等监控工具，便于实时监控训练过程和评估模型性能。
  6. 极速推理：提供了基于vLLM的OpenAI风格API、浏览器界面和命令行接口，实现快速推理。

二、安装

LLaMA-Factory 的安装相对简单，以下是一般的安装步骤（以conda环境为例）：

  1. 创建Python环境：
    使用conda创建一个新的Python环境，并安装必要的依赖库，如PyTorch等。

  2. 克隆LLaMA-Factory项目：
    通过Git克隆LLaMA-Factory的源代码到本地。

    git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git

  3. 安装依赖：
    进入项目目录，安装必要的Python依赖库。

    
 cd LLaMA-Factory
 pip install -e ".[torch,metrics]"

  4. 启动服务：
    在项目目录中运行python src/train_web.py启动服务，然后在浏览器中访问相应的端口（默认可能是7860）以访问训练界面。

在这里插入图片描述

三、支持的算法

LLaMA-Factory 支持多种先进的微调算法和模型，包括但不限于：

  • 多种模型：LLaMA、LLaVA、Mistral、Mixtral-MoE、Qwen、Yi、Gemma、Baichuan、ChatGLM、Phi 等等。
  • 集成方法：（增量）预训练、（多模态）指令监督微调、奖励模型训练、PPO 训练、DPO 训练、KTO 训练、ORPO 训练等等。
  • 多种精度：16 比特全参数微调、冻结微调、LoRA 微调和基于 AQLM/AWQ/GPTQ/LLM.int8/HQQ/EETQ 的 2/3/4/5/6/8 比特 QLoRA 微调。
  • 先进算法：GaLore、BAdam、DoRA、LongLoRA、LLaMA Pro、Mixture-of-Depths、LoRA+、LoftQ、PiSSA 和 Agent 微调。
  • 实用技巧：FlashAttention-2、Unsloth、RoPE scaling、NEFTune 和 rsLoRA。
  • 实验监控：LlamaBoard、TensorBoard、Wandb、MLflow 等等。
  • 极速推理：基于 vLLM 的 OpenAI 风格 API、浏览器界面和命令行接口。

四、性能指标

与 ChatGLM 官方的 P-Tuning 微调相比，LLaMA Factory 的 LoRA 微调提供了 3.7 倍的加速比，同时在广告文案生成任务上取得了更高的 Rouge 分数。结合 4 比特量化技术，LLaMA Factory 的 QLoRA 微调进一步降低了 GPU 显存消耗。
在这里插入图片描述

GPU现存消耗：

在这里插入图片描述

五、微调例子

以下是一个使用LLaMA-Factory对Yuan2.0模型进行LoRA微调的例子：

  1. 准备数据集：
    准备自定义的数据集，可以是JSON格式，包含指令、输入和输出等信息。
  2. 注册数据集：
    在LLaMA-Factory的数据集管理文件中注册自定义的数据集。
  3. 启动Web UI服务：
    运行python src/train_web.py启动Web UI服务，并在浏览器中打开相应的地址。
  4. 配置微调参数：
    在Web界面上配置模型路径、微调方法（选择LoRA）、数据集等参数。
  5. 开始微调：
    点击“开始”按钮开始微调过程，可以在界面中查看训练进度和损失函数等信息。
  6. 评估模型：
    微调完成后，使用LLaMA-Factory提供的评估工具对模型进行评估，检查模型性能是否有所提升。

通过以上步骤，用户可以利用LLaMA-Factory轻松实现LLMs的微调，提升模型在特定任务上的性能。

如何系统的去学习大模型LLM ？

作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。

但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的 AI大模型资料 包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

所有资料 ⚡️ ，朋友们如果有需要全套 《LLM大模型入门+进阶学习资源包》，扫码获取~

👉优快云大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

​

一、全套AGI大模型学习路线

AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！

img

二、640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

img

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

img

在这里插入图片描述

四、AI大模型商业化落地方案

img

阶段1：AI大模型时代的基础理解

  • 目标：了解AI大模型的基本概念、发展历程和核心原理。
  • 内容：
    • L1.1 人工智能简述与大模型起源
    • L1.2 大模型与通用人工智能
    • L1.3 GPT模型的发展历程
    • L1.4 模型工程
      - L1.4.1 知识大模型
      - L1.4.2 生产大模型
      - L1.4.3 模型工程方法论
      - L1.4.4 模型工程实践
    • L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

  • 目标：掌握AI大模型API的使用和开发，以及相关的编程技能。
  • 内容：
    • L2.1 API接口
      - L2.1.1 OpenAI API接口
      - L2.1.2 Python接口接入
      - L2.1.3 BOT工具类框架
      - L2.1.4 代码示例
    • L2.2 Prompt框架
      - L2.2.1 什么是Prompt
      - L2.2.2 Prompt框架应用现状
      - L2.2.3 基于GPTAS的Prompt框架
      - L2.2.4 Prompt框架与Thought
      - L2.2.5 Prompt框架与提示词
    • L2.3 流水线工程
      - L2.3.1 流水线工程的概念
      - L2.3.2 流水线工程的优点
      - L2.3.3 流水线工程的应用
    • L2.4 总结与展望

阶段3：AI大模型应用架构实践

  • 目标：深入理解AI大模型的应用架构，并能够进行私有化部署。
  • 内容：
    • L3.1 Agent模型框架
      - L3.1.1 Agent模型框架的设计理念
      - L3.1.2 Agent模型框架的核心组件
      - L3.1.3 Agent模型框架的实现细节
    • L3.2 MetaGPT
      - L3.2.1 MetaGPT的基本概念
      - L3.2.2 MetaGPT的工作原理
      - L3.2.3 MetaGPT的应用场景
    • L3.3 ChatGLM
      - L3.3.1 ChatGLM的特点
      - L3.3.2 ChatGLM的开发环境
      - L3.3.3 ChatGLM的使用示例
    • L3.4 LLAMA
      - L3.4.1 LLAMA的特点
      - L3.4.2 LLAMA的开发环境
      - L3.4.3 LLAMA的使用示例
    • L3.5 其他大模型介绍

阶段4：AI大模型私有化部署

  • 目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。
  • 内容：
    • L4.1 模型私有化部署概述
    • L4.2 模型私有化部署的关键技术
    • L4.3 模型私有化部署的实施步骤
    • L4.4 模型私有化部署的应用场景

学习计划：

  • 阶段1：1-2个月，建立AI大模型的基础知识体系。
  • 阶段2：2-3个月，专注于API应用开发能力的提升。
  • 阶段3：3-4个月，深入实践AI大模型的应用架构和私有化部署。
  • 阶段4：4-5个月，专注于高级模型的应用和部署。
这份完整版的所有 ⚡️ 大模型 LLM 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

全套 《LLM大模型入门+进阶学习资源包》↓↓↓ 获取~

👉优快云大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

​

【Qwen2微调实战】LLaMA-Factory框架对Qwen2-7B模型的微调实践
寻道AI，探索AI无限可能！
07-29 2万+
在人工智能的浪潮中，大型语言模型（LLMs）正逐渐成为研究和应用的热点。它们在自然语言处理（NLP）的各个领域，如文本生成、翻译、问答等任务中展现出了卓越的能力。Qwen2-7B模型，作为该领域的佼佼者，不仅因其庞大的参数量和强大的表示能力受到关注，更因其在微调后能够更好地适应特定任务而备受关注。本文将详细介绍如何利用LLaMA-Factory这一高效的微调框架对Qwen2-7B进行微调，以期达到提升模型在特定任务上的表现。
LLaMA Factory单机微调的实战教程
热门推荐
herosunly的博客
04-24 21万+
本文主要介绍了使用LLaMA Factory对大模型进行单机微调的实战教程，希望对学习大语言模型的同学们有所帮助。 文章目录 1. 前言 2. 配置环境 2.1 安装虚拟环境 2.2 安装依赖库 2.3 模型选型与下载 3. 运行代码 3.1 构建训练数据 3.2 修改配置文件 3.3 微调
微调框架Llama-factory和Unsloth：应该选择哪个？
wangjye99的博客
09-05 5532
测试表明，UNSLOTH和LLAMA-FACTORY在社区支持、模型种类和易用性上相近，但UNSLOTH在微调速度上表现突出。尽管处理的数据量是LLAMA-FACTORY的20倍，UNSLOTH的速度仍快约2.5倍，极大优化了时间成本，尤其在大规模数据处理中的效率优势显著。
一文彻底搞懂大模型 - LLaMA-Factory
最新发布
2401_84205765的博客
05-08 687
如何高效地微调和部署大型语言模型（LLM）？什么是LLaMA-Factory？LLaMA-Factory，全称Large Language Model Factory，即大型语言模型工厂。它支持多种预训练模型和微调算法，提供了一套完整的工具和接口，使得用户能够轻松地对_预训练的模型进行定制化的训练和调整_，以适应特定的应用场景，如_智能客服、语音识别、机器翻译_等。
【大模型微调】一文掌握7种大模型微调的方法
python123456_的博客
05-16 4万+
本篇文章深入分析了大型模型微调的基本理念和多样化技术，细致介绍了LoRA、适配器调整(Adapter Tuning)、前缀调整(Prefix Tuning)等多个微调方法。详细讨论了每一种策略的基本原则、主要优点以及适宜应用场景，使得读者可以依据特定的应用要求和计算资源限制，挑选最适合的微调方案。大型语言模型(LLM)的训练过程通常分为两大阶段：阶段一：预训练阶段在这个阶段，大型模型会在大规模的无标签数据集上接受训练，目标是使模型掌握语言的统计特征和基础知识。
一文带你了解大模型微调框架
m0_48891301的博客
01-20 2433
大模型的微调（Fine-tuning），通常是指在已经预训练好的大型语言模型（LargeLanguageModels，简称LLMs）基础上，使用特定的数据集进行进一步的训练，以使模型适应特定的任务或领域。这个过程可以让模型学习到特定领域的知识，优化其在特定NLP任务中的表现，比如情感分析、实体识别、文本分类、对话生成等。1、预训练模型：在微调之前，大模型通常已经经过大量的无监督预训练，这使得模型掌握了语言的基本统计特征和知识，具备了预测下一个词的能力。2、任务特定的数据集。
【2024最新】深入了解 大语言模型（LLM）微调方法（总结）
m0_48891301的博客
05-06 3419
该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。即更新模型所有权重的过程，被称为全微调。需要注意的是，与预训练一样，全微调需要足够的内存和计算预算来存储和处理训练过程中的所有梯度、优化器和其他更新组件。其中，大模型微调技术在此过程中起到了非常关键的作用，它提升了模型的生成效率和适应性，使其能够在多样化的应用场景中发挥更大的价值。
大模型微调之基础篇：大模型微调概念以及微调框架
zhishi0000的博客
03-17 1437
在大模型微调领域，存在多种框架，每个框架都有其独特的优势和局限性。下面介绍几种常见的微调框架，包括示例代码和适用模型，帮助你根据任务需求选择最合适的框架。
【03】LLaMA-Factory微调大模型——多模型部署
H66778899的博客
07-17 3394
【03】LLaMA-Factory微调大模型——多模型部署
【02】LLaMA-Factory微调大模型——LLaMA-Factory搭建
H66778899的博客
07-16 2842
【02】LLaMA-Factory微调大模型——LLaMA-Factory搭建
大模型的实践应用24-LLaMA-Factory微调通义千问qwen1.5-1.8B模型的实例
微学AI的博客
05-23 2481
大家好，我是微学AI，今天给大家介绍一下大模型的实践应用24-LLaMA-Factory微调通义千问qwen1.5-1.8B模型的实例, LLaMA-Factory是一个专门用于大语言模型微调的框架，它支持多种微调方法，如LoRA、QLoRA等，并提供了丰富的数据集和预训练模型，便于用户进行模型微调。通义千问Qwen1.5是阿里巴巴推出的一款大型语言模型，具有多语言处理能力和较强的生成能力。
大语言模型微调框架学习记录：LoRA、全参数、PEFT、RLHF
jennieg的博客
04-01 4109
讲一些基本概念内容，和之前的猜测不太一样大概可以将它理解为类似机器学习中pipeline的东西。是一个开源工具库，专注于构建和研究基于语言模型的应用。它提供了一套工具和接口，用于方便地在大型语言模型，如GPT-3或其他类似模型上，构建、测试和部署基于语言的应用程序。LangChain 旨在使研究人员和开发人员能够更容易地探索和利用大型语言模型的能力，尤其是在自然语言理解和生成方面。
2024年大语言模型（LLM）微调方法最全总结！
机器学习社区
02-24 8675
众所周知，大语言模型(LLM)正在飞速发展，各行业都有了自己的大模型。其中，大模型微调技术在此过程中起到了非常关键的作用，它提升了模型的生成效率和适应性，使其能够在多样化的应用场景中发挥更大的价值。那么，今天这篇文章就带大家深入了解大模型微调，主要包括什么是大模型微调、什么时候需要大模型微调、大模型微调方法总结、大模型微调最佳实践等。
最强开源大模型炸场！全网独一份AI大模型学习实践资源...（待会删）
Y525698136的博客
08-07 1429
最强开源大模型炸场！全网独一份AI大模型学习实践资源...（待会删）
技术研究｜深度探讨大语言模型微调技术
GentelAi的博客
02-21 871
随着大语言模型（Large Language Models, LLMs）的快速发展，如何高效地对其进行任务适配已成为自然语言处理领域的关键课题。其中，大语言模型微调成为目前备受关注的一个方法，通过微调，可以使模型更好地适应特定领域的需求和特征。通过引入特定领域的数据集进行微调，大模型可以学习该领域的知识和语言模式，这有助于模型在特定任务上取得更好的性能。继上一篇文章（工具推荐）后，我们将继续深入探讨现代语言模型微调的技术体系。
使用 ollama 部署本地模型，零基础入门到精通，非常详细收藏我这一篇就够了
m0_65555479的博客
08-15 2976
在本地启动并运行大型语言模型。运行Llama 2，Code Llama和其他模型。自定义并创建您自己的。
三分钟带你看完大模型微调框架
Java癫疯的博客
02-04 1276
github地址：https://github.com/hiyouga/LLaMA-Factory官方doc地址：https://llamafactory.readthedocs.io/zh-cn/latest2. Firefly，一站式大模型训练工具，本项目支持全量参数训练、LoRA、QLoRA高效训练，支持预训练、SFT、DPO，支持绝大部分主流的开源大模型，如Llama3、Gemma、MiniCPM等。通过配置文件的方式训练不同的模型，小白亦可快速上手训练模型。gitHub地址：https://git
大语言模型（LLM）框架及微调 (Fine Tuning)
ejinxian的专栏
12-30 2309
GPT (Generative Pre-trained Transformer) 的提出标志着 LLM 技术的飞速发展，其预训练和微调的方法为语言任务提供了前所未有的性能，以此为基础，多模态融合的应用使得 LLM 更全面地处理各种信息，支持更广泛的应用领域。通过数据向量化，实现了在向量数据库中进行高效的相似性计算和查询。Transformer 架构和预训练与微调策略是 LLM 技术的核心，随着大规模语言数据集的可用性和计算能力的提升，研究者们开始设计更大规模的神经网络，以提高对语言复杂性的理解。
llama-factory微调视觉大模型
02-28
### 使用llama-factory框架进行视觉大模型微调的方法 在特定应用场景下，如论文审稿，对于13B参数规模的模型微调，首选方案是基于`Llama-2-13b-chat-hf`版本的LLaMA模型进行调整[^1]。然而，当涉及到视觉领域的大模型微调时，虽然官方文档和社区资源主要集中在文本处理方面，但通过扩展性的研究可以发现，利用`llama-factory`框架同样能够实现对视觉类大型预训练模型的有效定制化改造。 #### 准备工作环境 为了确保能够在本地环境中顺利运行相关代码并完成后续操作，建议先安装必要的依赖库： ```bash pip install git+https://github.com/your-repo/llama-factory.git@main ``` 此命令会从指定仓库拉取最新版的`llama-factory`源码，并将其作为Python包安装到当前虚拟环境中。 #### 加载基础模型与配置文件 针对视觉任务优化过的LLaMA变体通常具有专门设计好的架构以及初始化权重。因此，在开始之前应当下载对应于目标应用领域的预训练模型及其配套设置： ```python from transformers import AutoModelForVisionTasks, AutoFeatureExtractor model_name_or_path = "path/to/pretrained_visual_llama" feature_extractor = AutoFeatureExtractor.from_pretrained(model_name_or_path) visual_model = AutoModelForVisionTasks.from_pretrained(model_name_or_path) ``` 上述代码片段展示了如何加载一个预先准备好的用于解决视觉问题的LLaMA实例。这里假设已经存在这样一个经过适当调整后的模型路径；如果不存在，则需参照开源项目中的指导说明获取合适的起点[^2]。 #### 数据集适配器构建 为了让通用型的基础模型更好地适应具体业务需求下的图像识别或其他视觉任务，往往还需要创建自定义的数据读入管道来桥接原始样本格式同模型输入之间的差异： ```python import torch from datasets import load_dataset def prepare_vision_data(dataset_name='coco', split='train'): dataset = load_dataset(dataset_name, split=split) def transform(examples): images = examples['image'] inputs = feature_extractor(images=images, return_tensors="pt") labels = ... # 基于实际标签字段填充此处逻辑 return {"pixel_values": inputs.pixel_values, "labels": labels} transformed_ds = dataset.map(transform, batched=True).with_format("torch") return transformed_ds ``` 这段脚本实现了从公开可用的数据集中提取图片信息的功能，并按照所选特征抽取器的要求进行了初步加工转换，以便可以直接供给给定的视觉模型做进一步分析处理。 #### 微调过程概述 一旦完成了前期准备工作之后，就可以着手实施具体的迁移学习策略了。这一步骤涉及到了解冻部分网络层、设定新的分类头以及其他可能影响最终性能表现的关键决策因素： ```python training_args = TrainingArguments( output_dir="./results", evaluation_strategy="epoch", learning_rate=5e-5, per_device_train_batch_size=8, weight_decay=0.01, num_train_epochs=3, logging_steps=10, save_total_limit=2, ) trainer = Trainer( model=model, args=training_args, train_dataset=train_dataset, eval_dataset=val_dataset, compute_metrics=some_metric_function, ) trainer.train() ``` 以上给出了一套较为标准的工作流模板，其中包含了关于超参选择的一些推荐值。当然，这些数值应该依据实际情况灵活调整以达到最佳效果。
评论 5
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值