自然语言处理:第四十七章 Prompt-Tuning、Instruction-Tuning和Chain-of-Thought三者的区别

最新推荐文章于 2025-09-11 11:12:26 发布
原创 最新推荐文章于 2025-09-11 11:12:26 发布 · 1.2k 阅读 · 22 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#自然语言处理 #prompt #人工智能 #chatgpt #nlp #机器学习 #gpt

原文链接:大语言模型三种训练技术及区别：Prompt-Tuning、Instruction-Tuning和Chain-of-Thought (qq.com)



写在前面: 笔者更新不易，希望走过路过点个关注和赞，笔芯!!!

写在前面: 笔者更新不易，希望走过路过点个关注和赞，笔芯!!!

写在前面: 笔者更新不易，希望走过路过点个关注和赞，笔芯!!!

Prompt-Tuning、Instruction-Tuning和Chain-of-Thought是近几年十分流行的大模型训练技术，本文主要介绍这三种技术及其差别。

图片

关于传统微调技术和新的prompt-tuning技术的区别和说明，我们已经在之前的文档中做了描述（参考：预训练大语言模型的三种微调技术总结：fine-tuning、parameter-efficient fine-tuning和prompt-tuning的介绍和对比）。在本文中，我们将详细解释Prompt-Tuning、Instruction-Tuning和Chain-of-Thought这三种大模型训练技术及其差别。

  • Prompt-Tuning介绍
  • Instruction-Tuning介绍
  • Chain-of-Thought介绍
  • 总结
  • 附录：GPT-4生成的使用Instruction-Tuning微调GPT-4的案例


Prompt-Tuning介绍

一切还是从BERT（BERT模型卡信息：https://www.datalearner.com/ai/pretrained-models/BERT ）说起，当年Google提出BERT模型的时候，一个最大的贡献是使用了Masked Language Model（MLM），即随机掩盖输入序列的一个token，然后利用相邻的tokens预测这个token是什么，这样模型可以学会更好地理解上下文。

图片

BERT这种训练方式让模型在文本生成方面有很强的能力，因此，大家发现有时候不一定需要做fine-tuning即可让模型帮我们解决感兴趣的任务。只要我们把希望输出的部分删除掉，然后尽量构造与该输出有关的其它tokens即可。这就是prompt-tuning的一种想法！

与输出相关的tokens组成的上下文信息即可理解为是一个prompt。Prompt通常是一种短文本字符串，用于指导语言模型生成响应。Prompt提供上下文和任务相关信息，以帮助模型更好地理解要求，并生成正确的输出。例如，在问答任务中，prompt可能包含问题或话题的描述，以帮助模型生成正确的答案。Prompt通常是人类设计的，以帮

最低0.47元/天 解锁文章
大语言模型三种训练技术：Prompt-Tuning、Instruction-Tuning、Chain-of-Thought
u013250861的博客
05-11 2289
一切还是从BERT（BERT模型卡信息：「链接」）说起，当年Google提出BERT模型的时候，一个最大的贡献是使用了Masked Language Model（MLM），即随机掩盖输入序列的一个token，然后利用相邻的tokens预测这个token是什么，这样模型可以学会更好地理解上下文。BERT这种训练方式让模型在文本生成方面有很强的能力，因此，大家发现有时候不一定需要做fine-tuning即可让模型帮我们解决感兴趣的任务。
Prompt-Tuning——深度解读一种新的微调范式
热门推荐
夏栀的博客
11-19 8万+
Prompting——深度解读一种全新的微调范式   自从GPT、EMLO、BERT的相继提出，以Pre-training + Fine-tuning 的模式在诸多自然语言处理（NLP）任务中被广泛使用，其先在Pre-training阶段通过一个模型在大规模无监督语料上预先训练一个预训练语言模型（Pre-trained Language Model，PrLM），然后在Fine-tuning阶段基于训练好的语言模型在具体的下游任务上再次进行微调（Fine-tuning），以获得适应下游任务的模型。这种模式在诸
Chain of Thought 开山之作论文详解
qq_42190727的博客
11-12 6787
现在语言模型的规模越来越大，但是即便是现在最大的语言模型，它们也往往很难在涉及到推理方面的任务取得很好的表现，也就是说，他们通常很难在数学，符号，以及常识的推理上取得尚佳的表现 这篇文章主要是针对大语言模型在遇到语言推理任务时的局限性，提出了 chain of thought，也就是思维链
一文读懂「Chain of Thought，CoT」思维链
顺其自然~专栏
10-08 2559
Chain-of-Thought(CoT)是一种改进的Prompt技术，目的在于提升大模型LLMs在复杂推理任务上的表现，对于复杂问题尤其是复杂的数学题大模型很难直接给出正确答案。如算术推理（arithmetic reasoning）、常识推理（commonsense reasoning）、符号推理（symbolic reasoning）。COT通过要求模型在输出最终答案之前，显式输出中间逐步的推理步骤这一方法来增强大模型的算数、常识和推理能力。简单，但有效。
程序员必看：提升大模型推理能力的Chain-of-Thought技术详解，干货建议收藏
最新发布
2401_84815887的博客
09-11 598
Chain-of-Thought (COT)技术通过引导大语言模型逐步展示推理过程，而非直接输出答案，显著提升了复杂推理任务的准确性和透明度。COT实现方式包括示例引导、零样本提示和多轮生成等，可采用分步提示、多段生成或特殊模型训练等方法。尽管能提高模型表现，但也面临计算成本增加和可能生成错误信息的挑战。实践中需设计清晰示例，适当控制推理步骤长度以平衡效率与准确度。
03｜提示工程（下）：用思维链和思维树提升模型思考质量
weixin_39924752的博客
03-18 1646
CoT这个概念来源于学术界，是谷歌大脑的Jason Wei等人于2022年在论文《（自我一致性提升了语言模型中的思维链推理能力）》中提出来的概念。它提出，如果生成一系列的中间推理步骤，就能够显著提高大型语言模型进行复杂推理的能力。CoT的核心思想是通过生成一系列中间推理步骤来增强模型的推理能力。在Few-Shot CoT和Zero-Shot CoT两种应用方法中，前者通过提供链式思考示例传递给模型，后者则直接告诉模型进行要按部就班的推理。
chain of thought (思维链， cot)
arvinChen的博客
08-30 1161
思维链 (Chain-of-thought，CoT) 的概念是在 Google 的论文 "Chain-of-Thought Prompting Elicits Reasoning in Large Language Models" 中被首次提出。。如上图，左边是传统的输入输出，右边是基于CoT思想的输入及输出。高亮部分及CoT, 说白了就是一个推理过程。
提示词工程——思维链（Chain of Thoughts, CoT）
2201_75445395的博客
06-11 1199
在提问时以「Let’s think step by step」开头，AI 会把问题分解成多个步骤后逐步解决，使得输出的结果更加准确。让 AI 生成更多相关的内容，构成更丰富的「上文」，从而提升「下文」正确的概率。对涉及计算和逻辑推理等复杂问题尤为有效。
Prompt-Tuning、Instruction-Tuning、prefix tuning的区别；Instruction-Tuning（指令调优），和Prefix-Tuning（前缀调优）相关的例子
强化学习曾小健
06-21 8401
如果模型生成了错误的结果，则给予负向奖励。通过 Prefix-Tuning 技术，你可以在模型输入的开头添加一个特定的前缀，来指导对话生成的内容。Prefix-Tuning（前缀调优）：Prefix-Tuning 是一种通过在模型输入中添加特定的前缀，来引导模型生成特定类型的输出。总结来说，Prompt-Tuning 是通过提示来引导模型生成相关内容，Instruction-Tuning 是通过指令来训练模型执行特定任务，而 Prefix-Tuning 是通过在输入中添加前缀来控制生成结果的格式和结构。
【SFT】Reflection-Tuning: Data Recycling Improves LLM Instruction-Tuning
STAR GAME
10-23 789
从LLM的评估能力和自我增强的当代范式中获得灵感，本文使用『反思-循环』机制在指定的标准下反思评估并对当前数据集进行改进。指令部分，作者发现Alpaca的指令经过本文方法后会被增长，而WizardLM的会被缩短。本文从指令长度、生成响应长度、指令困惑度、没有相关指令下响应的困惑度、有相关指令下响应的困惑度、连贯性、指令遵循难度评分这几个维度对比了原始chat模型和用本文方法SFT后的模型性能上的区别。标准包括：主题的复杂性、回应所需的细节程度、回应所需的知识、指令的模糊程度、是否设计逻辑推理或解决问题。
Chain-of-thought prompting（链式思考提示）
xw555666的博客
03-04 3448
只有解锁了思维链技术，大语言模型才有可能“涌现”，才能在“大炼模型”的竞争中具备能力优势。Chain-of-thought prompting（链式思考提示）是一种新兴的基于语言模型的技术应用方式，尤其在大规模预训练模型如GPT-3及其后续版本中得到了广泛应用。这一方法鼓励模型不仅生成最终的答案，而且逐步展示出它是如何推理并得出结论的。在执行复杂问题求解时，模型会生成一系列中间步骤，每个步骤都可以视为解答问题的一个逻辑片段或计算过程的一部分。
思维链（Chain-of-Thought）作为提示
zenRRan的博客
03-09 4509
来自：ICI NLP论文题目:Chain-of-Thought Prompting Elicits Reasoning in Large Language Models论文链接：https://arxiv.org/abs/2201.11903作者：Jason Wei Xuezhi Wang Dale Schuurmans Maarten Bosma Brian Ichter Fei Xia Ed...
思维链提示 (Chain-of-thought，CoT)
weixin_43646592的博客
05-26 2377
思维链提示 (Chain-of-thought，CoT)
思维链（Chain of Thought）深度解析：原理、价值与应用全面指南！
2401_84494441的博客
04-21 2210
思维链提示（CoT Prompt）
谈谈NLP中 大语言模型LLM的 思维链 Chain-of-Thought(CoT)
Neleuska的博客
07-03 8069
NLP、大语言模型LLM、思维链、CoT
【Chain-of-Thought】开创 AI 模型推理新纪元
学习记录，厚积薄发
04-07 2431
CoT：让大型语言模型实现人类一样的推理能力，解锁全新AI思维。
Chain of Thought (CoT) 系列论文：大模型思维链，提升 LLM 的推理能力
qq_43799400的博客
08-18 2893
Chain of Thought (CoT) 系列论文：大模型思维链，提升 LLM 的推理能力
Chain of Thought（CoT）详解-ChatGPT4o作答
qq_46215223的博客
02-20 631
Chain of Thought（CoT）作为一种增强推理和可解释性的方法，在人工智能领域中发挥着重要作用。通过逐步推理的方式，CoT能够帮助AI系统在复杂任务中进行更细致的思考，提供更加准确的答案，同时增加推理过程的透明度。随着技术的不断进步，CoT有望在更多领域得到广泛应用，推动AI更智能、更可控的发展。
思维链（Chain of Thought ）推理: 综述
yorkhunter的博客
05-22 1987
23年9月来自哈工大和华为的论文“A Survey of Chain of Thought Reasoning: Advances, Frontiers and Future“。
基于ChatGLM与P-Tuning的医疗大模型微调项目
本项目“基于ChatGLM+pTuning微调的医疗领域大模型”是一个典型的自然语言处理（NLP）深度学习项目，聚焦于将通用的大规模语言模型适配到专业垂直领域——医疗领域。该项目使用了由智谱AI开发的中文大模型ChatGLM-6B...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

曼城周杰伦

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值