【精调】LLaMA-Factory 快速开始2: Meta-Llama-3.1-8B-Instruct中文数据集

最新推荐文章于 2025-07-21 19:10:08 发布

等风来不如迎风去

最新推荐文章于 2025-07-21 19:10:08 发布

阅读量316

点赞数

CC 4.0 BY-SA版权

分类专栏： AI入门与实战文章标签： llama

本文链接：https://blog.youkuaiyun.com/commshare/article/details/145748285

AI入门与实战专栏收录该内容

265 篇文章 ¥99.90 ¥299.90

订阅专栏

超级会员免费看

模型没变
数据集改为中文
换了一台3090 训练，机器死掉了，悲剧。

换回再跑一次中文的

llamafactory-cli train examples/train_lora/llama3_lora_sft-zn.yaml

(base) zhb@mlp:~/data/alex.zhang/03_llama_factory/LLaMA-Factory$ pwd
/home/zhb/data/alex.zhang/03_llama_factory/LLaMA-Factory
(base) zhb@mlp:~/data/alex.zhang/03_llama_factory/LLaMA-Factory$ /home/zhb/data/alex.zha

了解本专栏

订阅专栏解锁全文

超级会员免费看

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

等风来不如迎风去

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
打赏
打赏
打赏举报

举报

专栏目录

订阅专栏

【精调】LLaMA-Factory 快速开始1: Meta-Llama-3.1-8B-Instruct

突围

02-20

290

LLaMA-Factory 快速开始: Meta-Llama-3.1-8B-Instruct

【精调】LLaMA-Factory 快速开始3: 自定义个一个alpaca 数据集并训练

突围

02-21

341

alpaca

参与评论您还未登录，请先登录后发表或查看评论

【丹摩智算实战】手把手教你Llama 3.1 8B部署：开启自然语言处理新篇章

LT15171009269的博客

09-24

869

在自然语言处理（NLP）领域，大模型（LLM）的发展日新月异，为各种应用场景带来了前所未有的能力。近日，Meta公司宣布推出了其最新的开源模型——Llama 3.1，这一消息在行业内引起了广泛关注。本文将详细介绍Llama 3.1的背景、特点、部署流程以及使用实例，帮助读者深入了解并掌握这一强大的NLP工具

【Llama3.1-8B-Instruct】Llama Factory 等部署实战

weixin_52103117的博客

08-20

3307

Meta Llama 3.1 系列是一个多语言大型语言模型 (LLM) 集合，包括 8B、70B 和 405B 三种尺寸（文本输入/文本输出）。Llama 3.1 的指令调优版本（8B、70B、405B）针对多语言对话用例进行了优化，并在常见的行业基准测试中超越了许多现有的开源和闭源聊天模型。Llama 3.1 支持多种语言，包括英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语。它在多语言任务中表现出色，并具有增强的推理、数学和代码执行能力。

Llama3-8B-Instruct + LLaMA-Factory 微调

CSU_lzp的博客

07-21

2681

南大NLP 情绪激发课题组 week 01

Llama3.1-8B-Instruct 本地部署安装测试指南

大模型与Agent智能体

10-25

4786

在本文中，将一步步指导你如何在本地环境中部署和测试 Llama3.1-8B-Instruct模型。Llama 3.2：Llama 3.2多语言大型语言模型（LLM）集合是1B和3B大小（文本输入/文本输出）的预训练和指令调整生成模型的集合。Llama 3.2视觉：Llama 3.2-Vision集合的多模态大型语言模型（LLM）是一个预先训练和调整的图像推理生成模型的集合，大小为11B和90 B（文本+图像输入/文本输出）Llama 3.1：一组预训练和微调的文本模型，大小从80亿到4050亿，在大约15万

LLaMA-Factory：准备模型和数据集

我的博客

05-16

1077

话接上回，由于咱用的是 RTX 4090 笔记本的 16GB VRAM 限制，建议选择较小的模型（如 LLaMA 3.1 8B、DeepSeek-R1-Distill-Qwen-7B）并使用量化。⚠️。

【精调】LLaMA-Factory 快速开始4 自定义个一个sharegpt数据集并训练

突围

02-21

405

【精调】LLaMA-Factory 快速开始4 自定义个一个sharegpt数据集并训练

使用LLaMA-Factory快速训练自己的专用大模型

程序员，AI探索者

09-04

1797

大家好，我是每天分享AI应用的萤火君！本文聊聊 LLama-Factory，它是一个开源框架，这里头可以找到一系列预制的组件和模板，让你不用从零开始，就能训练出自己的语言模型（微调）。不管是聊天机器人，还是文章生成器，甚至是问答系统，都能搞定。而且，LLama-Factory 还支持多种框架和数据集，这意味着你可以根据项目需求灵活选择，把精力集中在真正重要的事情上——创造价值。使用LLama-Factory，常见的就是训练LoRA模型，增强模型在某方面的生成能力。

使用LLaMA-Factory进行模型微调（LLama3-8B-instruct）

guosongrui001的专栏

09-14

1699

这里需要注意的是，自己制作的数据集是需要在data/dataset_info.json 这个文件中进行注册的。中间有大量的已经注册过的数据集，可以自己参考找到类似的注册信息，自行添加在文件最后。"hf_hub_url": "HuggingFaceTB/cosmopedia", #这是在HuggingFaceTB/cosmopedia中的名称。"file_name": "dpo_zh_demo.json", #数据集文件名，如果不在当前路径需要包含当前路径。8 使用合并模型推理。

基于Chinese-LLaMA-Alpaca-3的多模态中医舌诊辅助诊断系统设计与实现

huanghm88的专栏

07-20

802

摘要本文设计并实现了一种基于Chinese-LLaMA-Alpaca-3的多模态中医舌诊辅助诊断系统，融合文本、语音和图像输入，结合Neo4j知识图谱技术，构建智能化中医诊断工具。系统通过深度学习模型处理多模态数据，提取舌诊特征，并利用知识图谱推理生成诊断建议。实验表明，该系统能有效辅助中医师进行舌诊分析，提升诊断效率和一致性。关键词：中医舌诊、多模态融合、知识图谱、Chinese-LLaMA-Alpaca-3、智能辅助诊断。

LLaMA-Factory 微调可配置的模型基本参数

二分掌柜的

07-21

241

flyfish

Llama 2：开放基础模型与微调聊天模型

07-17

903

在本研究中，我们开发并发布了 Llama 2，一组预训练和微调的大型语言模型（LLMs），其规模从 70 亿参数到 700 亿参数不等。我们的微调模型称为 Llama 2-Chat，针对对话类场景进行了优化。在我们测试的大多数基准任务中，这些模型的性能优于现有的开源聊天模型；基于我们对有用性和安全性的人工评估，Llama 2-Chat 可能是闭源模型的一个合适替代方案。

安装 llama-cpp-python 的CPU和GPU方法

qq_52384627的博客

07-17

385

关于Langchain、LlamaCpp一些执行错误。

【机器学习&深度学习】LLaMAFactory中的精度训练选择——bf16、fp16、fp32与pure_bf16深度解析

qq_62223405的博客

07-21

727

bf16 已成为LLM训练社区的事实标准。而 pure_bf16 作为进一步突破显存极限的利器，在千亿级模型训练和QLoRA等高效微调技术中扮演着越来越重要的角色。随着硬件（如H100对fp8的支持）和软件（更鲁棒的pure_bf16训练策略）的持续演进，精度优化的艺术将不断精进。精度的选择，绝非简单的配置项，而是资源约束下模型性能与训练成功的战略决策。理解 bf16、fp16、fp32 和 pure_bf16 的核心差异，让你在LLaMAFactory的征途上，能够精准调配“弹药”（显存），驾驭“引

llamafactory-cli train 训练参数解析

JustinMars的博客

07-21

本文介绍了launcher.py脚本的训练参数配置选项，主要包括模型加载、量化、数据处理和导出等关键参数设置。模型相关参数支持指定预训练模型路径、适配器配置、词表调整和注意力机制选择等功能；量化参数提供多种量化方法（bnb/gptq/awq等）和位宽设置；数据处理参数涵盖图像/视频/音频的预处理选项；导出参数支持模型量化导出和格式转换。此外还包括数据集处理、评估指标和训练策略等配置选项，为模型训练和推理提供全面的参数控制。

本地部署 Kimi K2 全指南（llama.cpp、vLLM、Docker 三法）

斯黄人民的博客

07-18

1741

《Kimi K2本地部署指南：三种主流方法详解》介绍了高性能语言模型Kimi K2的本地部署方案。文章首先明确了250GB存储、128GB内存和多GPU的最低配置要求，随后详细描述了三种部署方式：1）使用llama.cpp实现量化适配中低配设备；2）通过vLLM支持高性能API服务；3）采用Docker容器快速部署。每种方法均提供完整配置步骤，包括模型获取、环境搭建和运行指令。最后对比了各方案的优缺点，llama.cpp适合资源有限用户，vLLM满足企业级需求，Docker则便于快速部署。

LLaMA-Factory 微调可配置的LoRA参数

二分掌柜的

07-21

759

flyfish

【税会实务】Excel文字输入技巧.doc