文献阅读：Scaling Instruction-Finetuned Language Models

最新推荐文章于 2025-09-05 12:58:41 发布
原创 最新推荐文章于 2025-09-05 12:58:41 发布 · 2.4k 阅读 · 6 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#FlanT5 #CoT #Google #Flan #预训练模型

文章探讨了Flan在大模型如Palm和T5上的应用，通过扩大数据集和模型规模，以及引入CoT（chain-of-thought）数据，观察其对模型性能的影响。实验结果显示，模型规模和训练任务数量的增加能提升模型效果，CoT对LLM有正面作用，特别是在涉及推理的任务中。此外，Flan在自回归和Transformer架构的模型上均展现出有效性。
最低0.47元/天 解锁文章
论文翻译：Scaling Instruction-Finetuned Language Models
CSPhD-winston的博客
08-29 1413
在一系列以指令形式表述的数据集上对语言模型进行微调已被证明可以提高模型性能并推广到未见任务。在本文中，我们探索了指令微调，特别关注（1）扩展任务数量，（2）扩展模型规模，以及（3）在思维链数据上进行微调。我们发现，上述方面的指令微调显著提高了多种模型类别（PaLM、T5、U-PaLM）、提示设置（零次、少次、思维链）和评估基准（MMLU、BBH、TyDiQA、MGSM、开放式生成、RealToxicityPrompts）的性能。
深度推理COT常用测评数据集
liguandong
02-08 730
数学与推理：AIME、Math-500、LogiQA等。知识广度编程能力生成质量多语言与伦理部分数据集（如AIME 2024、MATH500）已被用于直接对比DeepSeek-R1和O1的性能。此外，李飞飞团队近期提出的s1K数据集（1000个数学问题）展示了通过小规模高质量数据微调实现高效推理的可能性。
Scaling Instruction-Finetuned Language Models
kebijuelun的博客
07-26 1420
2022 年谷歌出的文章，对指令微调的影响因素进行分析，提出了一些提升指令微调效果的方案。与该文章一起出品的数据集 Flanv2 也是业界公认的高质量微调数据集，对于各种公开榜单刷榜有重要意义
从数据分布视角，重新认识下CoT
最新发布
zenRRan的博客
09-05 989
只需在问题前加上“让我们一步步思考”这样的提示，模型就能生成看似逻辑严密、步骤清晰的推理过程，不仅在数学计算、常识推理等任务上表现卓越，甚至让人产生“机器真的在思考”的错觉。图4 表明，只需极少量的新数据就能显著提升模型在分布外变换上的性能，说明其“泛化”本质上是学习了新模式，而非获得了推理能力。重新构建了对当代LLM推理能力的理解，强调了过度依赖CoT的风险，并指出未来需要开发具有真实、可泛化推理能力的模型。：使用小规模GPT-2（4层，32隐藏维，4头）从零开始训练，排除大规模预训练知识的干扰。
CoT 数据集如何让大模型学会「一步一步思考」？
AI 数据库me
04-23 1262
目前，大模型的回答路径基本遵循input-output的方式，在面对复杂任务时表现不佳。反之，人类会遵循一套有条理的思维流程，逐步推理得出正确答案。这种差异促使人们深入思考：如何才能让大模型“智能涌现”，学会像人类一样“一步一步思考”？
Scaling Instruction-Finetuned Language Models翻译
nopSled
12-13 1285
人工智能的一个重要目标是开发一个可以泛化到未知任务的模型。在自然语言处理（NLP）中，预训练语言模型已沿着这一目标取得了重大进展，因为它们可以在给定自然语言描述的情况下执行任务。通过在一系列任务指令集中微调语言模型取得了进一步的进展，这使模型能够更好地响应指令减少对few-shot样例的需求。在本文中，我们通过多种方式来提高指令微调。首先，我们研究了缩放对指令微调的影响。我们的实验表明，指令微调确实可以随着任务的数量和模型的大小而缩放。他们各自的缩放行为表明，未来的研究应扩大任务数量和模型的规模。
【LLM系列之FLAN-T5/PaLM】Scaling Instruction-Finetuned Language Models
yanqianglifei的专栏
05-08 1750
研究已经证明，在一组表述为指令的数据集上微调语言模型可以提高模型性能和对未知任务的泛化能力。(1)缩放任务数量；(2)缩放模型大小；(3)链式思维数据微调；论文发现，在上述方面进行指令微调可以显着提高各种模型（PaLM、T5、U-PaLM）、提示设置（零样本、少样本、CoT）和评估基准（MMLU、BBH、 TyDiQA、MGSM、开放式生成、RealToxicityPrompts）。
Scaling Instruction-Finetuned Language Models.pdf
05-18
Scaling Instruction-Finetuned Language Models 本文探讨了基于指令 fine-tuning 的语言模型的扩展，主要关注于三个方面：任务数量的扩展、模型规模的扩展和基于 chain-of-thought 数据的 fine-tuning。研究表明，...
Baichuan2：Open large-scale language models
liguandong
10-26 687
分词器需要平衡两个关键因素：高压缩率以实现高效的推理，并适当大小的词汇表以确保每个词embedding的充分训练。数据频率依赖于聚类和去重，构建了一个支持LSH型特征和稠密embedding特征的大规模去重和聚类系统，单个文档、段落和句子被去重评分，这些评分然后用于预训练中的数据采样。baichuan2-7B-chat，baichuan2-13B-chat，对齐包括sft和rlhf。在训练具有数十亿参数的大型语言模型之前，首先训练一些小模型，并为训练更大的模型拟合一个缩放定律。1024块A800 GPU。
【大模型理论篇】大模型微调之指令微调(Instruction Fine-Tuning)
热门推荐
源泉的小广场
08-27 2万+
指令微调、大模型、instruction fine-tuning、监督微调、微调技术、大模型微调、llm fine tune、指令数据集、prompt、微调实战、Alpaca、llama2微调
大模型微调之指令微调(Instruction Fine-Tuning)
顺其自然~专栏
12-17 859
指令微调是一种在带有指令提示和相应输出的标记数据集上微调大模型的技术。通过提供一组概述所需操作的指南或指令，使预训练模型适应执行特定任务。能提高模型在特定任务上的性能，还能在总体上提高遵循指令的能力，有助于调整预训练模型用于实际应用。指令微调是用于调整预训练基础大模型以适应下游任务的一种微调技术。通用大模型可以出于各种目的进行微调，从风格定制到补充预训练模型的核心知识和词汇，再到针对特定用例优化性能。指令既可用于提示词，也可以用于微调。通过自然语言指令引导模型生成最符合需求的输出。
AI开发之——Leonardo—Finetuned Models及利用模型制图(5)
我的博客
03-24 1755
Finetuned Models介绍及分类使用Finetuned Models的特征制图moreLeonardo主页，点击左侧的切换到Finetuned Models页面Finetuned Models包含四个选显卡Platfrm Models：Leonardo官方推荐模型，在模型的基础上，输入生成模型的单词便可创作，还为每个模型标志使用场景。Community Models：社区人员提供的模型Your Models：自己训练的模型。
全新instruction调优，零样本性能超越小样本，谷歌1370亿参数新模型比GPT-3更强...
gzq0723的博客
03-19 284
计算机视觉研究院专栏作者：Edison_G在 NLP 领域，pretrain-finetune 和 prompt-tuning 技术能够提升 GPT-3 等大模型在各类任务上的性能，但这类...
【论文阅读】Finetuned Language Models Are Zero-Shot Learners
qq_52852138的博客
10-01 4440
【论文阅读 ICLR2022】Finetuned Language Models Are Zero-Shot Learners
CoT数据如何生成
AI前沿技术的分享！
03-04 2205
CoT数据生成步骤：首先要明确问题是属于数学、自然科学、社会科学、人文艺术等哪个大的领域。例如，如果是生成关于物理问题的CoT数据，就需要熟悉物理的各种概念，如力学、电磁学、热学等。因为不同领域的问题有着不同的知识体系和推理方式。：在确定领域后，进一步细分问题类型。以数学领域为例，有代数问题（如解方程、函数求值等）、几何问题（如证明三角形全等、求几何图形的面积等）和概率统计问题（如计算事件概率、数据分析等）。对于不同类型的问题，CoT数据的生成方式会有所不同。
COT数据如何生成
晓的博客
01-08 3953
首先要明确问题是属于数学、自然科学、社会科学、人文艺术等哪个大的领域。例如，如果是生成关于物理问题的CoT数据，就需要熟悉物理的各种概念，如力学、电磁学、热学等。因为不同领域的问题有着不同的知识体系和推理方式。：在确定领域后，进一步细分问题类型。以数学领域为例，有代数问题（如解方程、函数求值等）、几何问题（如证明三角形全等、求几何图形的面积等）和概率统计问题（如计算事件概率、数据分析等）。对于不同类型的问题，CoT数据的生成方式会有所不同。
谷歌提出Flan-T5，一个模型解决所有NLP任务
zenRRan的博客
11-24 3009
作者:nghuyong知乎:https://zhuanlan.zhihu.com/p/580468546「论文」: Scaling Instruction-Finetuned Language Models「地址」: https://arxiv.org/abs/2210.11416「模型」: https://huggingface.co/google/flan-t5-xxl1. Flan-T5是什...
总结：大模型之CoT
w2009211777的专栏
06-06 1万+
Chain-of-Thought（CoT）是一种在人工智能和机器学习领域中使用的技术，特别是在自然语言处理（NLP）任务中。它旨在通过模拟人类的思维过程来提高模型的理解和推理能力。：在处理复杂问题时，CoT技术会引导模型逐步构建一个逻辑链，这个链由一系列相关的推理步骤组成，每个步骤都是基于前一步的结果。：模型不是直接给出答案，而是通过一系列的推理步骤来逐步接近答案。这种方法有助于模型更好地理解问题的上下文和复杂性。：CoT技术增强了模型的解释性，因为它展示了模型是如何得出特定结论的。
C-COT跟踪算法在OTB数据集上测试的接口函数
Keeplearning
09-17 913
C-COT算法作者其实已经给出了在几个数据集中测试的原始结果，其中也包括了OTB数据集。但是如果我们想要自己测试需要怎么写接口函数呢？ 很简单，把代码中的 setup_paths.m 和在runfiles文件夹中的 test.m 文件中的内容综合一下就行了，这里需要把整个文件夹的名字从 C-COT 改为 CCOT，因为命名里面短横线不符合matlab文件命名规范。然后在CCOT文件夹下新建run_CCOT.m 文件。 run_CCOT.m function results=run_CCOT(seq, res
DeepSeek LLM: Scaling Open-Source Language Models with Longtermism
01-03
### DeepSeek LLM 的长期扩展策略 开源语言模型（LLMs）的发展趋势表明，扩大模型规模可以显著提升性能。然而，随着参数量增加，计算资源消耗也呈指数级增长。为了实现可持续发展并推动技术进步，DeepSeek 采取了一系列基于长期主义的战略来扩展开源语言模型[^1]。 #### 资源效率优化 针对现有硬件条件下的资源利用最大化问题，团队专注于提高训练过程中的计算效率。具体措施包括但不限于： - **稀疏化处理**：通过引入结构化的权重矩阵，在不影响整体表现的前提下减少不必要的连接数量； - **量化方法应用**：采用低精度数值表示法降低内存占用和带宽需求； ```python import torch.nn as nn class SparseLinear(nn.Module): def __init__(self, in_features, out_features, sparsity=0.9): super(SparseLinear, self).__init__() self.linear = nn.Linear(in_features, out_features) mask = (torch.rand_like(self.linear.weight) > sparsity).float() self.register_buffer('mask', mask) def forward(self, x): masked_weight = self.linear.weight * self.mask return F.linear(x, masked_weight, self.linear.bias) ``` #### 社区共建生态体系 除了技术创新外，构建健康的社区环境对于促进高质量贡献至关重要。为此，DeepSeek 积极鼓励全球开发者参与进来，共同维护和发展这一开放平台。主要举措有： - 定期举办黑客松活动和技术分享会； - 提供详尽文档和支持渠道帮助新成员快速上手； - 设立奖励机制表彰优秀个人或团体的工作成果；
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值