LLMs之Llama-3：基于Colab平台(免费T4-GPU)利用LLaMA-Factory的GUI界面(底层采用unsloth优化框架【加速训练5~30倍+减少50%的内存占用】)对llama-3

已于 2024-12-10 22:40:54 修改
阅读量2.1k 收藏 29
点赞数 16
CC 4.0 BY-SA版权
分类专栏： NLP/LLMs 成长书屋 文章标签： 大语言模型 unsloth LLaMA-3 LoRA
于 2024-04-24 01:54:43 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_41185868/article/details/138143149

LLMs之Llama-3：基于Colab平台(免费T4-GPU)利用LLaMA-Factory的GUI界面(底层采用unsloth优化框架【加速训练5~30倍+减少50%的内存占用】)对llama-3-8b-Instruct-bnb-4bit模型采用alpaca数据集【instruction-input-output】实现CLI方式/GUI傻瓜可视化方式，进配置微调→参数行LoRA指令微调→模型推理测试→CLI方式合并权重

目录

基于Colab平台(免费T4-GPU)利用LLaMA-Factory的GUI界面(底层采用unsloth优化框架【加速训练5~30倍+减少50%的内存占用】)对llama-3-8b-Instruct-bnb-4bit模型采用alpaca数据集实现CLI方式/GUI傻瓜可视化方式，进配置微调→参数行LoRA指令微调→模型推理测试→CLI方式合并权重

# 1、安装依赖

# 1.1、克隆 LLaMA-Factory 仓库并安装必要的 Python 包，包括 unsloth、xformers 和 bitsandbytes。

# 1.2、检查 GPU 环境，确保可以使用 Colab 的 Tesla T4 GPU。

# 2、更新身份数据集：【instruction-input-output】

# 3、模型微调

# T1、通过 LLaMA Board 微调模型：

# T2、通过命令行微调模型：It takes ~30min for training.

# 4、模型推理

# 5、合并 LoRA 适配器并可选地上传模型：

实现代码

了解本专栏 订阅专栏 解锁全文
Llama3 Colab 完整指南
iCloudEnd的博客
05-03 344
Meta Llama 3 是下一代 Llama，现已广泛使用。它具有经过预训练和指令微调的语言模型，具有 8B 和 70B 参数，支持各种用例。这些模型展示了最先进的性能并提供了新的功能，包括改进的推理。该公司的目标是构建与专有模型相媲美的最佳开放模型，解决开发人员的反馈以提高他们的帮助性。目标是使 Llama 3 成为多语言和多模式、具有更长的上下文，并提高推理和编码等核心 LLM 功能的性能。
LLMs之FineTuning：在Colab平台采用LLaMA-Factory框架并基于T4 GPU实现一个端到端的模型微调流程—环境设置(需要GPU)→微调模型(采用llmtuner)→微调推理(基
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
04-13 1046
​ LLMs之FineTuning：在Colab平台采用LLaMA-Factory框架并基于免费的Tesla T4 GPU实现一个端到端的模型微调流程—环境设置(需要GPU)→微调模型(采用llmtuner)→微调推理(基于Qwen1.5-0.5B模型+LoRA微调)→微调导出(将微调知识【LoRA权重】合并到原始模型中) 目录 在Colab平台采用LLaMA-Factory框架并基于免费的Tesla T4 GPU实现一个端到端的模型微调流程—环境设置(需要GPU)→微调模型(采用llmtuner)→微
llama-factory下使用unsloth微调DeepSeek-R1-Distill-Qwen-1.5B
gregmankiw的博客
02-24 926
【代码】llama-factory下使用unsloth微调DeepSeek-R1-Distill-Qwen-1.5B。
微调框架Llama-factory和Unsloth：应该选择哪个？
wangjye99的博客
09-05 5686
测试表明，UNSLOTH和LLAMA-FACTORY在社区支持、模型种类和易用性上相近，但UNSLOTH在微调速度上表现突出。尽管处理的数据量是LLAMA-FACTORY的20倍，UNSLOTH的速度仍快约2.5倍，极大优化了时间成本，尤其在大规模数据处理中的效率优势显著。
LLaMA Factory 微调教程：如何构建高质量数据集？
最新发布
Python_cocola的博客
06-17 944
在开始学习之前，首先我们先补充演示一下，我们整体这次微调教程中，微调案例的一个最终效果。 在本教程中，我们微调的基础模型是 Qwen2.5-7B-Instruct ，目标是微调后让其在特定场景下具备一定的推理能力，并且在 Web 安全领域具备专家级水准。
大模型微调：LLaMA-Factory、Unsloth 和 Hugging Face Transformers 之选
嘴巴吃糖了
11-11 2195
在当今蓬勃发展的人工智能时代，大模型微调犹如一把神奇的钥匙，能够开启模型性能提升的大门，使其更好地适应各种特定任务。然而，面对市场上琳琅满目的微调工具，如何从中挑选出最契合自身需求的平台，着实成为了一项颇具挑战性的难题。接下来，让我们深入对比分析 LLaMA-Factory、Unsloth 和 Hugging Face Transformers 这三个主流的微调框架，为你的选择提供有力的参考。一、LLaMA-Factory：模块化与易用性的完美融合。
大模型微调：LLaMA-Factory、Unsloth和Hugging Face，哪个是你的AI加速器？
寻道AI，探索AI无限可能！
11-04 1302
在选择大模型微调工具时，需要充分考虑自己的具体需求、硬件环境和资源限制。以下是一些选择建议，希望能对你有所帮助。如果你需要在多种硬件上进行微调，并希望模型能够量化以适应资源受限的设备，那么 LLaMA-Factory 是一个不错的选择。它的模块化设计、多硬件支持和量化技术，能够为你提供强大的工具，助力你在不同的硬件环境下实现高效的微调。如果你追求极致的微调速度和内存使用效率，那么 Unsloth 将满足你的需求。它的加速微调和低内存占用特性，能够让你在资源受限的环境中快速完成模型的微调，提高工作效率。
LLMs之LLaMA-2：基于云端进行一键部署对LLaMA2模型实现推理(基于text-generation-webui)执行对话聊天问答任务、采用LoRA微调LLaMA-2-7B模型(配置云端环境【
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
07-30 3450
​ LLMs之LLaMA-2：基于云端进行一键部署对LLaMA2模型实现推理(基于text-generation-webui)执行对话聊天问答任务、同时微调LLaMA2模型(配置云端环境【A100】→下载数据集【datasets】→加载模型【transformers】→分词→模型训练【peft+SFTTrainer+wandb】→基于HuggingFace实现云端分享)之图文教程详细攻略 目录 一、基于云端(在Google Colab上)进行一键部署并推理 二、基于云端(在Google Co
中文版LLaMA：Chinese-LLaMA-Alpaca
u013250861的博客
06-12 2090
以ChatGPT、GPT-4等为代表的大语言模型（Large Language Model, LLM）掀起了新一轮自然语言处理领域的研究浪潮，展现出了类通用人工智能（AGI）的能力，受到业界广泛关注。然而，由于大语言模型的训练和部署都极为昂贵，为构建透明且开放的学术研究造成了一定的阻碍。为了促进大模型在中文NLP社区的开放研究，本项目开源了。这些模型并使用了中文数据进行二次预训练，进一步提升了中文基础语义理解能力。
Llama模型家族之使用 Supervised Fine-Tuning（SFT）微调预训练Llama 3 语言模型（六）Llama 3 已训练的大模型合并LoRA权重参数
大模型与Agent智能体
05-24 887
1、Llama开源模型家族大模型技术、工具和多模态详解：学员将深入了解Meta Llama 3的创新之处，比如其在语言模型技术上的突破，并学习到如何在Llama 3中构建trust and safety AI。8、Llama 3中的DPO原理、算法、组件及具体实现及算法进阶：学习Llama 3中结合使用PPO和DPO算法，剖析DPO的原理和工作机制，详细解析DPO中的关键算法组件，并通过综合项目八从零开始动手实现和测试DPO算法，同时课程将解密DPO进阶技术Iterative DPO及IPO算法。
LLM实践-在Colab上使用免费T4 GPU进行Chinese-Llama-2-7b-4bit推理
SHIDA优快云的博客
10-06 2086
一、配置环境 1、打开colab，创建一个空白notebook，在[修改运行时环境]中选择15GB显存的T4 GPU. 2、pip安装依赖python包 !pip install --upgrade accelerate !pip install bitsandbytes transformers_stream_generator !pip install transformers !pip ...
Llama Factory、Unsloth 和 Hugging Face 微调大型模型全面对比！
DEVELOPERAA的博客
04-10 1223
本文对 Llama Factory、Unsloth 和 Hugging Face 在微调大型语言模型方面的全面性能分析！
使用Colab_LLaMA_Factory_LoRA微调_Llama3(可自定义数据）
AI ONES
05-02 809
这个过程超级简单，半个多小时在T4上就能跑完。完全可以替换成自己的数据，支持中文数据。微调过程大约需要 30 分钟。
模型微调概念以及微调框架的对比分析：LLaMA-Factory、Hugging Face Transformers、 DeepSpeed和Unsloth
2401_83450572的博客
03-14 1339
模型微调框架的选择需综合任务规模、硬件条件及开发效率。LLaMA-Factory和Hugging Face Transformers覆盖了大多数轻量级到中规模需求，而DeepSpeed和Unsloth分别专精于超大规模训练与极致效率优化。开发者可根据具体场景灵活组合工具链，例如使用Hugging Face生态构建原型，再通过DeepSpeed扩展至生产环境。
快速上手！LLaMa-Factory最新微调实践，轻松实现专属大模型
浪潮圈
01-17 1万+
近日，源2.0开源大模型与LLaMA-Factory框架完成全面适配，用户通过LLaMA-Factory，即可快捷、高效地对不同参数规模的源2.0基础模型进行全量微调及高效微调，轻松实现专属大模型。
GPU服务器之Colab配置及使用教程
pengxiang1998的博客
01-02 5376
最方便的一点是，在复现其他研究者的工作时，如果dataset通过Google Drive链接分享，我们可以将一键转存到我们的Google Drive中，避免长时间的大文件下载和上传。在进行深度学习过程中，不可避免需要进行炼丹的操作，而博主的电脑本身性能就很拉跨，一旦再运行其他的应用便是寸步难行，最好的办法便是再买一台，哈哈哈，当然也可以使用一些云服务器来进行，博主这里选择的是Colab，接下来便是配置环境过程。没有报错就是成功，然后我们的.py文件是不能直接运行的，可以以下命令运行。
llama-factory SFT 系列教程 (四)，lora sft 微调后，使用vllm加速推理
热门推荐
jieshenai的博客
04-20 1万+
首先使用 llama-factory 微调，得到微调后的 lora 权重；由于 vllm 并没有支持所有的模型；故通用的方式是 将 lora 权重和大模型融合成新的大模型，再由 vllm 推理；在使用 alpaca 样式的数据集微调时，llama-factory 框架在训练时，会自动在prompt 添加 template。所以，在微调大模型后，使用vllm推理时，也要给 vllm 传入 封装好的template。
Windows11系统，GPU为NVIDIA GeForce RTX4070 ，GPU内存为16G，硬盘存储为500G，利用魔塔社区下载deepseek-r1:7b模型，利用llama-factory，训练本地数据集
02-25
### 准备工作 为了在 Windows 11 上使用 NVIDIA GeForce RTX4070 GPU 和 llama-factory 工具训练本地数据集，并从魔塔社区下载 deepseek-r1:7b 模型进行训练，需完成一系列配置。 #### 安装必要的软件环境 确保安装了最新的 NVIDIA 驱动程序以及 CUDA Toolkit[^1]。接着，安装 Python 并设置虚拟环境来管理依赖项： ```bash python -m venv myenv myenv\Scripts\activate pip install --upgrade pip setuptools wheel ``` #### 安装 PyTorch 及其他库 根据硬件情况选择合适的 PyTorch 版本，这里假设已经确认支持 CUDA 的版本： ```bash pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu118 ``` 对于 llama-factory 所需的额外包，则可以通过如下命令获取： ```bash pip install transformers accelerate bitsandbytes ``` ### 下载并准备模型与数据集 访问魔塔社区网站找到 deepseek-r1:7b 模型页面，按照说明下载预训练权重文件至指定目录下。同时准备好要用于微调的数据集，并将其转换成适合输入给 LLMs (Large Language Models) 处理的形式。 ### 使用 llama-factory 进行训练 创建一个新的 Python 脚本来加载模型和数据集，并启动训练过程。下面是一个简单的例子展示如何实现这一点： ```python from transformers import AutoModelForCausalLM, AutoTokenizer import torch from datasets import load_dataset tokenizer = AutoTokenizer.from_pretrained("path/to/deepseek-r1-7b") model = AutoModelForCausalLM.from_pretrained("path/to/deepseek-r1-7b") dataset = load_dataset('json', data_files={'train': 'local_data.json'}) def tokenize_function(examples): return tokenizer(examples['text'], padding="max_length", truncation=True) tokenized_datasets = dataset.map(tokenize_function, batched=True) small_train_dataset = tokenized_datasets["train"].shuffle(seed=42).select([i for i in list(range(100))]) training_args = TrainingArguments( output_dir="./results", evaluation_strategy="epoch", learning_rate=2e-5, per_device_train_batch_size=8, per_device_eval_batch_size=8, num_train_epochs=3, weight_decay=0.01, ) trainer = Trainer( model=model, args=training_args, train_dataset=small_train_dataset, eval_dataset=None, tokenizer=tokenizer, ) trainer.train() ``` 上述脚本假定有一个名为 `local_data.json` 的 JSON 文件作为训练数据源；实际应用时应调整路径和其他参数以适应具体需求。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

一个处女座的程序猿

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值