解码 Llama 3 SFT：Templates、Special Tokens 及其在微调中的作用

最新推荐文章于 2025-04-03 15:02:18 发布
最新推荐文章于 2025-04-03 15:02:18 发布
阅读量238 收藏
点赞数 11
分类专栏： DeepSeek前线：解密前沿LLM技术+小白入门 文章标签： llama 自然语言处理 人工智能 AIGC chatgpt 多轮对话
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/kakaZhui/article/details/146959178
版权

写在前面

在进行 SFT，尤其是对话微调时，有两个核心概念是绕不开的：对话模板 (Chat Templates) 和 特殊标记 (Special Tokens)。它们是指导模型如何理解和生成结构化对话的关键“语法规则”。没有正确理解和使用它们，你的微调效果可能会大打折扣，甚至模型会“胡言乱语”。

本文将以 Llama 3 为例，深入探讨 Template 和 Special Token 的定义、它们在 SFT 训练过程中的具体应用，以及这样设计背后的目的。

1. 特殊标记 Special Tokens

想象一下，我们人类的语言充满了标点符号（逗号、句号、问号）、段落标记、甚至一些约定俗成的格式（如邮件的开头结尾）。这些元素帮助我们理解文本的结构和意图。对于 LLM 而言，特殊标记 (Special Tokens) 就扮演着类似的角色。

定义:

特殊标记是词汇表 (Vocabulary) 中一些不代表常规词语、但具有特定功能或元信息含义的 Token。它们是模型训练和推理过程中的控制信号或结构指示符。

目的与作用:

了解本专栏 订阅专栏 解锁全文 超级会员免费看
LLaMA Factory在预测阶段时添加原有问题的实战代码
herosunly的博客
05-02 17万+
本文主要介绍了LLaMA-Factory在预测阶段时添加原有问题的实战代码，希望对使用LLaMA-Factory的同学们有所帮助。 文章目录 1. 前言 2. 实战代码
Minillama3-＞训练tokenizer
liguandong
06-17 246
GitHub - charent/ChatLM-mini-Chinese: 中文对话0.2B小模型（ChatLM-Chinese-0.2B），开源所有数据集来源、数据清洗、tokenizer训练、模型预训练、SFT指令微调、RLHF优化等流程的全部代码。中文对话0.2B小模型（ChatLM-Chinese-0.2B），开源所有数据集来源、数据清洗、tokenizer训练、模型预训练、SFT指令微调、RLHF优化等流程的全部代码。2.预处理成wiki.txt。1.wiki数据下载。
LLaMA的解读与其微调(含LLaMA 2)：Alpaca-LoRA/Vicuna/BELLE/中文LLaMA/姜子牙
热门推荐
结构之法 算法之道
03-22 7万+
还开始研究一系列开源模型(包括各自对应的模型架构、训练方法、训练数据、本地私有化部署、硬件配置要求、微调等细节)​该项目部分一开始是作为此文《》的第4部分，但但随着研究深入 为避免该文篇幅又过长，将把『第4部分 开源项目』抽取出来 独立成本文。
使用Unsloth微调LLaMA3大模型
行码棋
02-13 746
unsloth微调llama3.1大模型
Unsloth - 大模型微调
AI工程化、开源分享、文档翻译、代码笔记
07-13 2502
一、关于 Unsloth 二、安装说明 💾 1、使用 Conda 2、使用 Pip安装 三、文档📜 四、DPO支持
Llama3.1-8B-Instruct 本地部署安装测试指南
段智华的博客
10-25 3643
在本文中，将一步步指导你如何在本地环境中部署和测试 Llama3.1-8B-Instruct模型。Llama 3.2：Llama 3.2多语言大型语言模型（LLM）集合是1B和3B大小（文本输入/文本输出）的预训练和指令调整生成模型的集合。Llama 3.2视觉：Llama 3.2-Vision集合的多模态大型语言模型（LLM）是一个预先训练和调整的图像推理生成模型的集合，大小为11B和90 B（文本+图像输入/文本输出）Llama 3.1：一组预训练和微调的文本模型，大小从80亿到4050亿，在大约15万
LLMs：《Efficient And Effective Text Encoding For Chinese Llama And Alpaca—6月15日版本》翻译与解读
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
06-21 1321
​ LLMs：《Efficient And Effective Text Encoding For Chinese Llama And Alpaca—6月15日版本》翻译与解读 目录 《Efficient And Effective Text Encoding For Chinese Llama And Alpaca—6月15日版本》翻译与解读 ABSTRACT 1、Introduction 2、Chinese Llama And Chinese Alpaca
Unsloth 基于自己的数据集微调建立专属模型
kuokay的博客
03-05 1217
unsloth 是开源的大语言模型(LLM)微调工具，基于优化计算步骤和 GPU 内核，显著提升模型训练速度减少内存使用。Unsloth支持多种主流 LLM，如 Lama-3、Mistral、Phi-4等，在单 GPU 上实现最高 10倍、多 GPU 上最高 32 倍的加速效果，同时内存使用减少 70% 以上。unsloth 提供免费的开源版本，用户能在 Google Colab 或 Kaggle Notebooks 上快速体验。
LLMs：《Efficient and Effective Text Encoding for Chinese LLaMA and Alpaca-4月17日版/旧版》翻译与解读
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
06-01 2466
​ LLMs：《Efficient and Effective Text Encoding for Chinese LLaMA and Alpaca-4月17日版》翻译与解读 目录 相关文章 《Efficient and Effective Text Encoding for Chinese LLaMA and Alpaca》翻译与解读 ABSTRACT 1、INTRODUCTION 2、Chinese Llama 3、Chinese Alpaca 4、Parameter Effici
为啥每个 LLM 的 Template 都不同？—— Qwen、Llama 3 与 DeepSeek 模型 Chat Template 对比及设计溯源
kakaZhui的博客
04-03 122
在与大型语言模型（LLM）交互，尤其是进行对话式应用开发和监督式微调（SFT）时，我们总会遇到一个看似琐碎却至关重要的概念——Chat Template（对话模板）。开发者们常常发现，Llama 3 的模板规则是一套，换到 Qwen 模型又是另一套，再看 DeepSeek，格式又变了。这不禁让人疑惑：为什么不能有一个统一的标准？为啥每个模型的“对话语法”都自成一派？这些模板差异往往关联着模型的预训练数据、设计哲学、甚至是网络结构的考量。
LLaMA-Factory源码分析
yinghuo233的博客
07-26 2429
LLaMA-Factory源码调试和分析
模型调优无需标注数据！将Llama 3.3 70B直接提升到GPT-4o水平
AIBigModel的博客
03-31 900
与经典的测试时计算类似，当 TAO 能够使用更多的计算资源时，它会产生更高质量的结果（见图 3 中的示例）。图 1 展示了 TAO 在三个企业级任务中对 Llama 模型的提升效果：尽管仅使用原始输入数据，TAO 不仅超越了需要数千标注样本的传统微调 (FT) 方法，更让 Llama 系列模型达到了商业模型的性能水准。更令人惊讶的是，即使没有标注数据，TAO 也能实现比传统调优模型更好的质量，并且它可以将像 Llama 这样的开源模型提升到与专有模型（如 GPT-4o 和 o3-mini）相当的质量水平。
LLaMA-Factory学习（1）简介及安装步骤
jndingxin的专栏
04-02 389
LLaMA-Factory 是一个开源的 全栈大模型微调框架，支持从预训练到指令微调（SFT）、强化学习（RLHF）等全流程训练。支持多种模型：Llama、LLaMA-3、Mistral、Qwen、Baichuan、ChatGLM 等。灵活的微调方法：全参数微调（Full）、冻结微调（Freeze）、LoRA、QLoRA 等。低资源训练：通过量化（INT4/INT8）和高效算法（如 GaLore、Unsloth）降低显存占用。
手动实现一个迷你Llama：手动实现Llama模型
2302_80236633的博客
04-03 1118
Llama 模型在自然语言处理领域有着广泛的应用，它通过自注意力机制能够有效地捕捉序列中的长距离依赖关系。为了更好地理解和实现这个模型，我们先从一些基础的代码和概念入手。在开始之前，我们需要导入一些必要的 Python 库。这些库将帮助我们完成模型的构建和训练。 这些库涵盖了数学运算、数据结构定义、类型提示以及 PyTorch 框架的相关功能，为后续的模型实现提供了强大的支持。接下来，我们来定义一个参数类 ，用于存储 Transformer 模型的各种超参数。这些超参数将决定模型的结构和行为。 Transf
LLaMA-Factory大模型微调全流程指南
黎明鱼儿
04-03 470
该文档为LLaMA-Factory大模型微调提供了完整的技术指导，涵盖了从环境搭建到模型训练、推理和合并模型的全流程，适用于需要进行大模型预训练和微调的技术人员。
Meta Llama 3：开启大语言模型新纪元
爱编程的鱼的博客
03-31 1049
今天，我们要深入探索的是Meta公司推出的Llama 3模型，一个在性能、可访问性和创新性上都堪称标杆的开源大语言模型。Llama 3提供了从8B到70B参数的多种模型尺寸，这种多样化的选择使得用户可以根据自己的具体需求和硬件条件，灵活选择最合适的模型版本。无论是资源有限的初创团队，还是拥有强大计算资源的大型企业，都能在Llama 3中找到适合自己的解决方案。Llama 3支持不同的模型并行（MP）值，根据所选模型调整相应的参数，以确保模型在你的硬件上高效运行。以8B参数的指令微调模型为例，使用。
手动实现一个迷你Llama：使用SentencePiece实现自己的tokenizer
2302_80236633的博客
04-02 602
用于加载和使用训练好的 SentencePiece 模型，执行分词（Tokenization）、编码（Encoding）和解码（Decoding）等操作。它是 SentencePiece 模型的主要接口，提供了丰富的功能来处理文本数据。通过 num_shards 参数控制处理的分片数量，可以加快训练速度，减少每次加载到内存中的数据量，提高训练效率。tiny.txt 是一个临时文件，用于将多个分片中的文本合并成一个文件，便于 SentencePiece 训练。，广泛应用于自然语言处理（NLP）任务中。
LORA+llama模型微调全流程
最新发布
发布unity，三维模型的相关内容
04-03 538
新建一个download.py脚本。
llama-本地推理大模型多模型同时运行
cybersnow精通 28 门计算机语言，凭借其超凡的技术能力，成功开发过上万个应用，广泛涉及政府、商业、个人等众多领域，甚至在检察院、环保局、公安局等专业场景中也大放异彩。不仅熟练掌握单片机和物联网开发，在软件架构设计方面更是独树一帜，自创了跨平台软件
04-02 250
【代码】llama-本地推理大模型多模型同时运行。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

kakaZhui

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值