Llama3-8B-Instruct + LLaMA-Factory 微调

最新推荐文章于 2025-05-09 16:55:59 发布
最新推荐文章于 2025-05-09 16:55:59 发布
阅读量2.5k 收藏 27
点赞数 33
CC 4.0 BY-SA版权
文章标签： llama nlp
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/CSU_lzp/article/details/140582811

Llama3-8B-Instruct模型下载地址：

魔搭社区（境内）：https://modelscope.cn/models/LLM-Research/Meta-Llama-3-8B-Instruct/files

huggingface（境外）：https://huggingface.co/meta-llama/Meta-Llama-3-8B-Instruct/tree/main

LLaMA-Factory项目地址：https://github.com/hiyouga/LLaMA-Factory

1. 下载Llama3-8B-Instruct模型

中国境内可以直接通过魔搭社区下载模型，境外可以在huggingface上下载模型（需要科学上网）！

1.1 从魔塔社区下载

点击“下载模型”

复制git链接

git clone https://www.modelscope.cn/LLM-Research/Meta-Llama-3-8B-Instruct.git

在模型存放的文件空白处点击鼠标右键，选择“Git Bash Here”，会打开一个git命令窗口

将刚刚复制的模型地址粘贴到git命令窗口，回车，即可进入到下载过程！

模型比较大，需要耐心等待模型下载完成！(也可以单独下载那几个比较大的文件）

1.2 从Huggingface下载

如果在境外，也可以从huggingface进行下载，不过需要科学上网工具！方法与魔搭社区下载方法类似！

如果是第一次从huggingface通过命令下载模型，可以先运行下面的命令安装 git-lfs

git lfs install

然后再复制模型的git链接

git clone https://huggingface.co/meta-llama/Meta-Llama-3-8B-Instruct

 

在文件夹中的下载步骤与魔搭社区的步骤一样，都是通过git命令窗口来进行下载！

2. 安装LLaMA-Factory

2.1 克隆项目到本地

首先访问LLaMA-Factory项目的GitHub主页，点击绿色的“Code”下拉按钮，点击“复制”按钮复制项目链接！

git clone https://github.com/hiyouga/LLaMA-Factory.git

 

在文件夹空白处点击鼠标右键，选择“Git Bash Here”，打开一个git窗口

 

 输入刚刚复制的git链接，回车，将项目克隆到本地文件夹

 

2.2 新建虚拟环境

进入到刚刚下载的项目文件夹中，在路径栏输入“cmd”，打开一个新的cmd命令窗口

 在cmd命令窗口输入下面的命令，新建一个虚拟环境

conda create -n llama_factory python=3.10 -y

 

 输入如下命令，激活该虚拟环境！

activate llama_factory

 

 当命令输入行前面是一个括号包括的虚拟环境名称的时候，就表示已经进入到了该新建的虚拟环境中了！

2.3 安装项目依赖

继续在虚拟环境中运行下面的命令，安装各种项目依赖！（这里建议打开科学上网工具，有些依赖的安装境外速度快）

 接下来需要根据自己的CUDA版本安装对应的PyTorch，这里附上参考链接PyTorch

我是的CDUA版本是12.0，一般都是向下兼容，所以我选的是CUDA 11.8对应的PyTorch

还是在刚刚的命令行，输入如下命令，安装PyTorch

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

 

pip install https://github.com/jllllll/bitsandbytes-windows-webui/releases/download/wheels/bitsandbytes-0.41.2.post2-py3-none-win_amd64.whl

 

安装tensorboard

pip install tensorboard

 设置环境变量

Set USE MODELSCOPE HUB=1

到这一步，LLaMA-Factory项目的安装就基本上完成了！ 

2.4 运行LLaMA-Factory

输入下面的命令，会自动打开一个web页面

python src/webui.py

 

下面就是web页面初始的样子

3. 微调Llama-3-8B-Instruct模型

3.1 微调模型

在“Model name”中选择“LLaMA3-8B”,将“Model path”中的路径修改为你本地存放Meta-Llama-3-8B-Instruct文件夹的路径！

切换到“Chat”选项卡，点击“Load model”，稍等片刻，系统就会提示“Model loaded,now you can chat with your model!”!

此时，当我们用中文询问大模型问题的时候，出现英文回复的几率会比较高！（但不是绝对，毕竟Meta-Llama-3-8B-Instruct模型训练的时候也有部分中文语料）

下面，我们将开始进行模型的微调，将选项卡从“Chat”，切换回“Train”

在“Dataset”中，选择若干个“_zh”结尾的数据集，为了节约显存“Cutoff length”可以修改为“512”，其他参数可以参照如下的截图！

点击“Start”将进入到模型微调的进程中！

 

训练的时间会比较长，像本人的NVIDIA 16G显卡，下面显示的时间是28个多小时！

如果中途像终止退出的话，点击“Abort”

 

3.2 导出模型

1.微调训练结束之后，点击“Export”选项卡，切换到导出功能区！

2.点击“Refresh adapters”按钮，刷新lora模型，在左侧的下拉列表中选择刚刚训练好的模型！

3.在“Max shard size(GB)”中设置好每个拆分模型的最大size，案例中我设置为5；

4.在“Export dir”中设置模型保存的路径；

5.点击“Export”按钮，开始导出模型（需要点时间等待）；

模型导出完成之后，你就可以在前面指定的路径中看到微调后的新模型了！使用方法与其他模型一样！

 

Kevinson-lzp
关注
Llama3-8B+ LLaMA-Factory 中文微调
2401_84052244的博客
04-23 9598
Llama3是目前开源大模型中最优秀的模型之一，但是原生的Llama3模型训练的中文语料占比非常低，因此在中文的表现方便略微欠佳！本教程就以Llama3-8B-Instruct开源模型为模型基座，通过开源程序LLaMA-Factory来进行中文的微调，提高Llama3的中文能力！
大模型实战—Llama3-8B 中文微调
热门推荐
04-25 8万+
Llama3是目前开源大模型中最优秀的模型之一，但是原生的Llama3模型训练的中文语料占比非常低，因此在中文的表现方便略微欠佳！本教程就以Llama3-8B-Instruct开源模型为模型基座，通过开源程序LLaMA-Factory来进行中文的微调，提高Llama3的中文能力！
大模型的开发应用（一）：Llama3模型的简单部署
最新发布
weixin_44457930的博客
05-09 1119
本系列文章是基于Meta-Llama-3-8B-Instruct模型的开发，包含模型的部署、模型微调、RAG等相关的应用。Meta-Llama-3-8B-Instruct 模型名称中的 “Instruct” 表示该模型是专门针对指令遵循（Instruction Following）任务进行优化的版本。1. “Instruct” 的核心含义任务定位：这类模型经过微调（Fine-tuning），能够更精准地理解用户指令并生成符合要求的回复，例如回答问题、执行任务、遵循多步骤指示等。
Llama3中文微调模型-Llama3-Chinese-8B-Instruct概述
ASS-ASH的博客
04-24 7133
Llama3的最大模型参数规模达到了惊人的400B。），8B模型和70B模型全系列都采用了GQA，GQA通过将查询分成不同的部分并给予它们不同的重点来理解查询的层次结构，这有助于系统更好地理解复杂问题并找到更相关的信息。通过LoRA微调，我们不仅保留了Llama3模型在预训练阶段获得的知识，还通过针对性的架构调整和参数优化，进一步提升了模型对中文语境的适应性和任务执行的准确性。这一过程中，我们特别注重了超参数的精细调整，并通过反复的模型评估与迭代，确保了微调后的模型能够在实际应用中稳定地提供高质量的输出。
[大模型]LLaMA3-8B-Instruct Lora 微调
FL1623863129的博客
06-12 3915
在 /root/autodl-tmp 路径下新建 model_download.py 文件并在其中输入以下内容，粘贴代码后记得保存文件，如下图所示。使用 modelscope 中的 snapshot_download 函数下载模型，第一个参数为模型名称，参数 cache_dir 为模型的下载路径。下面的代码有很详细的注释，大家如有不理解的地方，欢迎提出issue。如下所示，可以看出LLaMA3自带思维链，应该是在训练的时候数据集里就直接有cot形式的数据集，LLaMA3很强！
Meta Llama 3中文微调教程
python12222_的博客
11-14 753
学习AI大模型是当前科技发展的趋势，它不仅能够为我们提供更多的机会和挑战，还能够让我们更好地理解和应用人工智能技术。同时，掌握AI大模型还能够为我们的职业发展增添竞争力，成为未来技术领域的领导者。现在我想把我的经验和知识分享给你们，帮助你们学习AI大模型，能够解决你们学习中的困难。很多人学习大模型的时候没有方向，东学一点西学一点，像只无头苍蝇乱撞，我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。再者，学习AI大模型也能为我们自己创造更多的价值，提供更多的岗位以及副业创收，让自己的生活更上一层楼。
基于llama3-8B-instruct的调用部署以及lora微调
Alexa_的博客
06-17 2876
LoraConfig这个类中可以设置很多参数，但主要的参数没多少，简单讲一讲，感兴趣的同学可以直接看源码。
使用LLaMA-Factory进行模型微调（LLama3-8B-instruct）
guosongrui001的专栏
09-14 1647
这里需要注意的是，自己制作的数据集是需要在data/dataset_info.json 这个文件中进行注册的。中间有大量的已经注册过的数据集，可以自己参考找到类似的注册信息，自行添加在文件最后。"hf_hub_url": "HuggingFaceTB/cosmopedia", #这是在HuggingFaceTB/cosmopedia中的名称。"file_name": "dpo_zh_demo.json", #数据集文件名，如果不在当前路径需要包含当前路径。8 使用合并模型推理。
llama-factory生成Meta-Llama-3-8B-Instruct模型api服务
a935955956的博客
11-11 844
使用llama-factory完成模型的微调训练后，需要开启其api服务进行调用，参考官方。下述为启动api服务示例，此处展示的为直接使用原始本地模型进行api服务启动。是llama-factory文件中提供的api服务文件 确认好路径和文件名。1、需注意transformer版本和llama-factory版本适配问题。llama-factory，所以就弃用了vllm的方法，把vllm卸掉了。2、很奇怪的问题是通过vllm的推理后端，会出现版本冲突的问题。下述为官方使用模型的示例。
llama-factory-0.7.0微调llama3-8B-Instruct-262k
06-05 1522
llama-factory-0.7.0在A40上微调llama3-8B-Instruct-262k
教程：利用LLaMA_Factory微调llama3:8b大模型
m0_60683691的博客
05-06 4581
在存放模型空白处右键，点击git bash here，下载llama3模型至本地由于文件较大，因此该过程比较久，保持下载窗口打开，知道出现下一命令行表示下载完成。
[大模型]LLaMA3-8B-Instruct WebDemo 部署
FL1623863129的博客
06-12 692
在 /root/autodl-tmp 路径下新建 model_download.py 文件并在其中输入以下内容，粘贴代码后记得保存文件，如下图所示。使用 modelscope 中的 snapshot_download 函数下载模型，第一个参数为模型名称，参数 cache_dir 为模型的下载路径。下面的代码有很详细的注释，大家如有不理解的地方，欢迎提出issue。如下所示，可以看出LLaMA3自带思维链，应该是在训练的时候数据集里就直接有cot形式的数据集，LLaMA3很强！
使用Unsloth微调Llama3-Chinese-8B-Instruct中文开源大模型
积跬步，至千里。
05-24 6607
Unsloth是一个开源的大模型训练加速项目，可以显著提升大模型的训练速度，减少显存占用。本文将使用Unsloth微调Llama3-Chinese-8B-Instruct中文开源大模型。
『保姆级』大模型教程来了（从入门到实战）
2301_76168381的博客
04-01 5509
在大模型的构建之下，AI自动化交互，将会决定世界的未来，谁的大模型更强大，将决定在遥远的未来的话语权，同时，大模型会成为AI基础设施。AI大模型，正在构建的颠覆力，为了更好的入局AI大模型，🔻 针对ChatGLM大模型，介绍ChatGLM模型微调。🔻 大模型的定义和特点，如预训练、微调、指令学习等。🔻 05 精读大模型-3论文、Instruct论文。🔻 04 GLM-130B训练营——论文泛读。🔻 05 GLM-130B训练营——论文精读。🔻 08 Alpaca训练营——论文精读。
autodl 上 使用 LLaMA-Factory 微调 中文版 llama3
Debroon
05-08 4849
模型路径：/root/autodl-tmp/LLM-Research/Meta-Llama-3-8B-Instruct。adapter开头的就是 LoRA 保存的结果了，后续用于模型推理融合。强烈建议选 4090（24G），不然微调的显存不够。我们用 LoRA 微调，至少得 16G（7B模型）。俩个地方都要改：file_name、本地数据集路径。这个数据，ta会去hf官方找，我们可以设置镜像站。微调后，还可以马上测试微调结果。微调后，就找这个路径看一下。方法二：改成本地文件路径。
Llama 越狱探索 Llama-3.1-8B-Instruct去除限制过程
代码简单说 Vue、JAVA、PHP、Node.js 熟练运用，接口、架构、性能全搞定。
10-26 1654
解除 Llama 模型的限制虽然能够提升生成自由度，但也可能会带来一些潜在的风险。因此在实际应用中，应对去除限制的模型进行严格监管与监控，避免因模型内容生成不当而引发意外后果。此外，也要确保遵守使用政策和道德准则，以保证模型的合理使用。总结而言，去除 Llama-3.1-8B-Instruct 的限制涉及对模型配置、参数及自我审查逻辑的调整。通过细致调整这些参数，既可以实现去除限制的目标，又可以保持模型在不同时态和内容下的响应性。
基于LLaMA-Factory微调Llama3
zhishi0000的博客
05-29 1761
本文简要介绍下基于LLaMA-Factory的llama3 8B模型的微调过程升级到24.0版本创建微调脚本Step 6. 测试微调效果​。
Llama3 中文通用 Agent 微调模型来啦！（附手把手微调实战教程）
2301_78285120的博客
04-24 3254
节前，我们组织了一场算法岗技术&面试讨论会，邀请了一些互联网大厂朋友、参加社招和校招面试的同学，针对算法岗技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何准备、面试常考点分享等热门话题进行了深入的讨论。Llama3模型在4月18日公布后，国内开发者对Llama3模型进行了很多训练和适配，除了中文纯文本模型外，多模态版本也陆续在发布中。考虑到国内用户对Agent场景的需求，社区LLM&AIGC模型微调推理框架SWIFT基于Llama3-8b-instruct原始版本训练了。
大模型微调Llama-3-8B
03-10
<think>嗯，用户想了解如何对Llama-3-8B大模型进行微调。首先，我需要回忆一下微调大型语言模型的一般步骤，并结合Llama-3-8B的具体情况来回答。 首先，微调大模型通常需要准备数据集。用户可能需要收集与目标任务相关的数据，比如对话、问答或者特定领域的文本。数据格式可能需要符合模型输入的格式，比如指令微调的话，数据应该包含指令、输入和期望的输出。比如引用[3]提到的Bunny-Llama-3-8B-V模型，就是基于Llama-3进行多模态微调的，说明数据可能包含图像和文本的结合，但用户的问题是关于微调，可能需要考虑不同的任务类型。 然后是环境配置，需要选择合适的框架，比如Hugging Face的Transformers库，或者使用DeepSpeed、FSDP进行分布式训练。考虑到Llama-3-8B的规模，单卡可能无法训练，需要多卡或者使用参数高效的方法，比如LoRA。引用[3]提到Bunny模型是基于Llama-3-8B的，可能使用了LoRA这类技术来减少显存占用。 接下来是模型加载，可能需要从Hugging Face下载预训练模型，并进行适当的配置，比如加载半精度或者使用QLoRA来量化模型。引用[2]提到Llama-3使用了15万亿tokens训练，所以预训练模型已经很强，微调时不需要太多数据，但要确保数据质量。 然后是训练配置，包括学习率、优化器、批次大小等。由于8B模型参数较多，可能需要较小的学习率，避免过拟合。另外，使用混合精度训练可以节省显存，加快训练速度。引用[3]中的模型在多个benchmark表现好，可能是在训练时进行了多任务学习或者数据增强。 训练过程中需要监控损失和评估指标，使用验证集来调整超参数。可能还需要早停策略，防止过拟合。训练完成后，要保存模型，并可能进行量化或合并适配器，比如LoRA的权重合并到原模型。 最后是部署，将微调后的模型集成到应用中，比如使用FastAPI提供API服务。引用[3]中的Bunny模型作为多模态应用，可能需要特定的部署方式，但用户的问题可能更关注文本生成方面。 在注意事项中，需要强调显存优化，比如梯度检查点、LoRA，以及数据质量的重要性。此外，任务适配可能需要调整模型结构，比如分类任务添加分类头。引用[1]提到未来计划增强模型的中文能力，可能用户的数据如果是中文，需要确保数据足够和相关。 可能用户的实际需求是在特定领域应用Llama-3-8B，比如客服对话或文本生成，所以需要根据具体任务调整微调策略。另外，用户可能关心微调需要多少计算资源，是否需要云服务，或者有没有更高效的方法，比如提示工程代替微调。但根据问题，用户明确想了解微调步骤，所以需要详细说明流程和相关技术。</think>### Llama-3-8B 大模型微调方法分步说明 #### 1. **环境准备与数据收集** - **硬件要求**：建议使用至少1张24GB显存的GPU（如RTX 3090/4090），大规模微调需多卡并行或云服务器（如A100） - **框架选择**：推荐使用Hugging Face Transformers + PEFT库，结合LoRA（Low-Rank Adaptation）进行参数高效微调[^3] - **数据格式**：准备指令-响应对数据（JSON格式），例如： ```json {"instruction": "解释量子力学", "input": "", "output": "量子力学是研究微观粒子..."} ``` #### 2. **模型加载与配置** ```python from transformers import AutoModelForCausalLM, AutoTokenizer model = AutoModelForCausalLM.from_pretrained( "meta-llama/Meta-Llama-3-8B", load_in_4bit=True, # 使用QLoRA量化 device_map="auto" ) tokenizer = AutoTokenizer.from_pretrained("meta-llama/Meta-Llama-3-8B") ``` #### 3. **适配器配置（LoRA）** ```python from peft import LoraConfig, get_peft_model lora_config = LoraConfig( r=8, # 秩 lora_alpha=32, target_modules=["q_proj", "v_proj"], # 目标注意力层 lora_dropout=0.05, bias="none" ) model = get_peft_model(model, lora_config) model.print_trainable_parameters() # 可训练参数约0.1% ``` #### 4. **训练循环配置** ```python from transformers import TrainingArguments training_args = TrainingArguments( output_dir="./results", per_device_train_batch_size=2, gradient_accumulation_steps=4, # 有效批次大小=8 learning_rate=1e-4, warmup_steps=100, num_train_epochs=3, fp16=True, logging_steps=10, optim="adamw_torch" ) ``` #### 5. **启动训练** ```python from transformers import Trainer trainer = Trainer( model=model, args=training_args, train_dataset=train_dataset, data_collator=lambda data: { "input_ids": torch.stack([f["input_ids"] for f in data]), "attention_mask": torch.stack([f["attention_mask"] for f in data]), "labels": torch.stack([f["labels"] for f in data]) } ) trainer.train() ``` #### 6. **模型保存与部署** ```python model.save_pretrained("./llama3-8b-lora-adapter") # 合并适配器（可选） merged_model = model.merge_and_unload() merged_model.save_pretrained("./merged_model") ``` ### 关键技术说明 1. **LoRA技术**：通过低秩矩阵分解，仅微调0.1%-1%的参数即可达到全参数微调效果 2. **梯度检查点**：使用`gradient_checkpointing_enable()`减少40%显存占用 3. **指令模板**：需遵循Llama-3的对话格式： ``` <|begin_of_text|><|start_header_id|>user<|end_header_id|> {instruction}<|eot_id|> <|start_header_id|>assistant<|end_header_id|> {response}<|eot_id|> ``` ### 注意事项 - 中文微调建议添加20%以上中文数据（如Alpaca-zh数据集） - 8B模型全参数微调需要约64GB显存，建议采用参数高效方法 - 使用`trl`库的SFTTrainer可获得更好的指令跟随效果
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值