新手教程之使用LLaMa-Factory微调LLaMa3

已于 2024-06-04 23:08:48 修改
阅读量1.5w 收藏 236
点赞数 64
分类专栏： 人工智能 文章标签： LLaMa-Factory微调 llama3
于 2024-06-04 23:01:16 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/David_house/article/details/139426591
版权

文章目录

为什么要用LLaMa-Factory

如果你尝试过微调大模型，你就会知道，大模型的环境配置是非常繁琐的，需要安装大量的第三方库和依赖，甚至需要接入一些框架。
但是大模型微调的方法又是非常类似的，那有没有一种工具可以统一这些操作，让大模型微调变成一个简单易上手的事情，LLaMa-Factory就是为了解决这个问题应运而生

什么是LLaMa-Factory

本来不想说这么多废话的，想来想去还是简单介绍一下，也加深自己的了解：
LLaMA Factory是一款支持多种LLM微调方式的工具，包括预训练、指令监督微调和奖励模型训练等。它支持LoRA和QLoRA微调策略，广泛集成了业界前沿的微调方法。特点在于支持多种LLM模型，提供了WebUI页面，使非开发人员也能方便进行微调工作。
代码地址：LLaMA-Factory

LLaMa-Factory环境搭建

  1. 克隆项目
git clone https://github.com/hiyouga/LLaMA-Factory.git
  1. 创建环境
conda create -n llama_factory python=3.10
conda activate llama_factory
  1. 安装依赖
cd LLaMA-Factory
pip install -e .[torch,metrics]
  1. 启动web UI界面
export CUDA_VISIBLE_DEVICES=0
python src/webui.py

启动成功之后，游览器会打开如下界面：
在这里插入图片描述

微调LLaMA3

  1. 准备模型

方法一：克隆我们要微调的模型到本地，然后将在web UI界面填入我们的模型名称和本地的模型地址

git clone https://www.modelscope.cn/LLM-Research/Meta-Llama-3-8B-Instruct.git

方法二：直接去魔塔Meta-Llama-3-8B-Instruct地址复制对应的文件名和路径，微调时，程序会自动​去魔搭下载模型！
（这个方法小编浅浅试了一下，没成功，还是下载到本地靠谱）
在这里插入图片描述

  1. 准备数据集

LLaMA-Factory项目内置了丰富的数据集，统一存储于data目录下。
如果你想基于自己的数据集微调，你需要
（1）将你的数据集也放到data目录下
注意：你需要将你的数据集改为一样的格式，具体可参考data下内置数据集的格式
这里提供一个小编基于LooksJuicy/ruozhiba数据集改好的一个数据集：

https://pan.baidu.com/s/1FYYlBIXWy697xdagrHiIeg
提取码：2333

（2）修改data下的dataset_info.json文件，添加如下内容：
其中my_data.json是我自己的数据集文件，my_data是对应的数据集文件名

"my_data": {
    "file_name": "my_data.json"
  },

添加到第一层大括号内的第一个元素前，也就是identity前面

  1. 微调

这里我直接通过web ui界面进行微调
在这里插入图片描述

训练需要二十分钟左右，训练完成之后，会出现下述界面：
左下角会显示训练完毕，右边会出现训练过程中损失变化的一个可视化

在这里插入图片描述

  1. 与微调之后的模型对话

在这里插入图片描述
这样看来，使用LLaMa-Factory微调确实很简单方便！！！

参考博文

LLM - 使用 LLaMA-Factory 微调 Qwen2-VL SFT(LoRA) 图像数据集 教程 (2)
AGI
11-12 3036
LLaMA-Factory 是开源的大模型微调框架，用于高效地微调和部署大语言模型，支持多种预训练模型和微调算法，提供完整的工具和接口，对于预训练的模型进行定制化的训练和调整，以适应特定的应用场景。
LLaMA Factory单机微调的实战教程
热门推荐
herosunly的博客
04-24 21万+
本文主要介绍了使用LLaMA Factory对大模型进行单机微调的实战教程，希望对学习大语言模型的同学们有所帮助。 文章目录 1. 前言 2. 配置环境 2.1 安装虚拟环境 2.2 安装依赖库 2.3 模型选型与下载 3. 运行代码 3.1 构建训练数据 3.2 修改配置文件 3.3 微调
12 大模型学习——LLaMA-Factory微调
weixin_54388827的博客
04-02 1993
Alpaca 格式由斯坦福大学的研究人员提出，主要用于单轮指令微调任务。针对不同任务，数据集的格式要求不同。应用场景：- 适用于单轮任务，如问答、文本生成、摘要、翻译等。- 结构简洁，任务导向清晰，适合低成本的指令微调。
使用 LLaMA-Factory 微调 llama3 模型（二）
GUANGZHAN的专栏
04-07 1254
LLaMA-Factory 是一个用于大型语言模型（LLM）微调的工具，它旨在简化大型语言模型的微调过程， 使得用户可以快速地对模型进行训练和优化，以提高模型在特定任务上的性能。这个工具支持多种预训练的大型语言模型，例如 LLaMA、LLaVA、Mistral、Mixtral-MoE、Qwen、Yi、 Gemma、Baichuan、ChatGLM 和 Phi 等。LLaMA-Factory 旨在降低大型语言模型微调的门槛，使得更多的研究者和开发者能够利用这些强大的模 型来解决具体的实际问题。
LLama Factory从入门到放弃
游离子丶
04-23 951
LLama Factory 是一个高效的界面化大语言模型微调工具库，支持多种参数高效微调技术，提供简洁接口和丰富示例，助力用户快速定制和优化模型性能。将环境切换至 llamafactory，并切换到 LLama Factory 的目录后，启动 LLama Factory。如果你使用的是 vscode 中的 remote 插件链接的服务器，由于 vscode 中自带端口转发，因此，你可以在你的电脑本地直接使用浏览器访问 LLama Factory 的 web 界面。
LLaMA-Factory部署以及微调大模型
qq_35594661的博客
03-05 4202
安装成功后，输入python能出现截图表示安装成功。
基于autodl与llama-factory微调llama3（三）
2201_75499442的博客
06-23 1610
基于该prompt，llama3模型的输出结果整体能够呈现出我们需要的格式，但是在诸如年龄提取、结果提取以及对于abs和percent的判断，很存在一些比较明显的偏差。本文主要侧重介绍新的prompt内容，在原来的prompt的中，我们是基于原.ann格式文件进行prompt的编写，其详情可以见该博客。1.对于文字提示：我们初步的设定为，“从给定的医学摘要中提取以下数据，并以指定的JSON格式输出:”无中生有：即大模型会突然出现任何地方都没有出现过的内容，自我生成崭新的不符合要求的内容。
使用LLaMA-Factory微调Llama3大模型
T.S.Hao的博客
06-19 3831
本文详细介绍了如何在本地基于llama3中文预训练模型，使用LLaMA-Factory微调模型，实现特定领域的下游任务。
大模型私人定制：5分钟教你不写一行代码微调构建属于你的大模型（使用llama-factory微调Qwen大模型）
weixin_42782643的博客
03-14 1887
本文介绍了使用llama-factory微调大模型的方法，无需编程即可将通用模型转化为领域专家。涵盖微调原理（如LORA高效调参）、环境搭建、数据集构建、参数设置及实战步骤，并演示了模型评测对比，帮助你构建自己的大模型！
llama3 微调教程之 llama factory 的 安装部署与模型微调过程，模型量化和gguf转换。
失业求捞！
05-17 2万+
本文记录了从环境部署到微调模型、效果测试的全过程，以及遇到几个常见问题的解决办法，亲测可用（The installed version of bitsandbytes was compiled without GPU support. NotImplementedError: Architecture ‘LlamaForCausalLM’ not supported!
用 LLama-Factory 训练和微调 LLama3，打造你的专属 AI 模型！
数智笔记
05-19 2487
微调模型涉及调整预训练或基础模型的参数，使其能够用于特定任务或数据集，从而提升其性能和准确性。这个过程包括为模型提供新的数据，并修改其权重、偏差和某些参数以最小化损失和成本。通过这样做，这个新模型可以在任何新任务或数据集上表现良好，而无需从头开始，从而节省时间和资源。通常，当一个新的大型语言模型（LLM）创建时，它会在一个大型文本数据语料库上进行训练，其中可能包含潜在有害或不良内容。在预训练或初始训练阶段之后，模型会被微调加入安全措施，确保其避免生成有害或不良的响应。然而，这种方法并非完美无缺。
llama-factory一个数据微调用例
07-26
"llama-factory"是一个数据微调的工具或平台，主要与LoRa（Long Range）技术相关，这是一项低功耗广域网通信技术，常用于物联网(IoT)应用。在给定的文件列表中，我们可以看到以下几个关键文件： 1. **dataset_info....
LLaMA Factory多卡微调的实战教程
herosunly的博客
04-25 20万+
本文主要介绍了LLaMA Factory多卡微调的实战教程，希望对学习大语言模型的同学们有所帮助。 文章目录 1. 前言 2. 配置环境 2.1 安装虚拟环境 2.2 安装依赖库 2.3 模型选型与下载 2.4 配置多卡环境 3. 运行代码 3.1 构建训练数据 3.2 修改配置文件 3.3 微调 3.3.1 zero3微调 3.3.2 启动API 3.3.3 模型测试
LLaMA-Factory部署、自定义数据集、模型微调、模型调用（NVIDIA）
xin_yao_xin的博客
03-17 2599
具体用什么数据集要看自己的具体需求，我采用的是Alpaca 格式，需要将配置文件放到data目录下，并在LLaMA-Factory|微调大语言模型初探索(2)，训练自己的聊天机器人_ai 训练 数据集 参数 说明 "instruction":"","input":"""output-优快云博客。
大模型微调指南之 LLaMA-Factory 篇：一键启动LLaMA系列模型高效微调
最新发布
冷不丁
05-10 1808
LLaMA-Factory 是一个功能强大的工具，支持模型的训练、微调、评估、推理和导出。它提供了全参数微调、LoRA 微调、QLoRA 微调等多种微调方法，并支持通过可视化界面或命令行进行操作。安装过程包括创建虚拟环境、下载仓库和安装依赖。使用 WebUI 可以方便地进行模型训练、评估、对话和导出，而命令行则提供了更灵活的配置选项，支持模型微调、合并、推理和评估。LLaMA-Factory 还支持自定义数据集和断点重连功能，适用于多种模型训练和微调场景。
Llama 3 模型微调的步骤
keyboard专栏
06-28 1484
LlaMa-Factory中已经为我们提供了非常完整的模型合并方法，同样，我们只需要编写脚本文件来执行合并操作即可，即llama3_merge_model.sh。同样，该脚本文件也可以按照此前single_lora_llama3.sh脚本相类似的操作，就是将课件中提供的脚本直接上传到Jupyter主目录下，再复制到LlaMa-Factory主目录下进行运行。建议在执行项目的依赖安装之前升级 pip 的版本，如果使用的是旧版本的 pip，可能无法安装一些最新的包，或者可能无法正确解析依赖关系。
10 分钟，教你如何用 LLama-Factory 训练和微调 LLama3 模型
了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识，以及DigitalOcean云平台使用教程
05-21 9989
在本文中，我们将了解如何使用 LLama Index 对 LLama3 进行微调。更重要的是，你只需要通过非常简单的步骤和几行代码，就能实现这一点。
教程：利用LLaMA_Factory微调llama3:8b大模型
m0_60683691的博客
05-06 4556
在存放模型空白处右键，点击git bash here，下载llama3模型至本地由于文件较大，因此该过程比较久，保持下载窗口打开，知道出现下一命令行表示下载完成。
【大模型】llama-factory基础学习
idiotyi的博客
08-08 1298
llama-factory支持json格式文件，自定义数据集中每条数据格式如下：“prompt”: “介绍一下苹果”,“response”: “苹果公司（Apple Inc.），是一家美国跨国科技公司，总部位于加利福尼亚州库比蒂诺。"demo": {demo是映射后使用的数据集别名，file_name是数据集路径，file_sha1不是必需的，但是可以缓存预处理后的数据集，避免二次训练时重新预处理，sha1的生成可以通过终端运行shasum -a 1 filename（linux命令）
llama-factory部署微调
01-19
### 关于LlaMA-Factory部署和微调的信息 #### 使用LlaMA-Factory进行模型微调 为了利用LlaMA-Factory执行低秩适应（LoRA）微调，需先安装该库。这可以通过克隆GitHub上的官方仓库来完成[^2]： ```bash git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git ``` 接着，在本地环境中设置必要的依赖项并加载预训练的基础模型。对于具体的微调过程，LlaMA-Factory提供了详细的指南说明如何准备数据集以及调整超参数以优化特定任务的表现。 #### Python在LlaMA-Factory中的应用 Python作为一门高级编程语言，在此框架内扮演着重要角色。它不仅被用来实现核心算法逻辑，还支持整个工作流——从数据处理到最终的服务化部署。开发者可以借助丰富的第三方库简化开发流程，提高效率[^3]。 #### 部署经过微调后的模型 当完成了对基础模型的有效改进之后，下一步就是将其成功地集成至生产环境当中。LlaMA-Factory同样涵盖了这部分内容的教学材料，指导用户怎样打包自己的成果，并通过RESTful API等形式对外提供服务接口访问能力。 #### 调用API实例 一旦模型已经准备好上线运行，则可通过如下方式创建简单的客户端请求脚本来测试其性能表现： ```python import requests url = "http://localhost:8000/predict" data = {"input": "your input text here"} response = requests.post(url, json=data) print(response.json()) ```
评论 25
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

疯狂的小强呀

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值