Nous Research提出TST方法:预训练成本降一个量级,提速约2.5倍!

数量1倍数特性.pdf 立即下载

模型能力与成本的行业共识

模型能力需要提升,但训练成本不能无限制增加,这或许是当前AI行业的强烈共识。如今,开发者和模型公司不再只关注“谁家的模型更强”,而是更务实的问题:“同样多的GPU、同样的训练时间,能否进行更多有效实验,处理更多有效数据,获得更好的loss和下游指标?”

TST方法的提出与效果

凭借Hermes Agent(140K Star)迅速走红的Nous Research团队,刚提出一种Token叠加训练方法——Token Superposition Training(TST),有望将大模型的预训练成本降低一个量级。目前,相关帖子浏览量已突破41万。在论文《Efficient Pre - Training with Token Superposition》中,一组百亿参数MoE实验(Qwen3 - like 10B - A1B MoE)效果显著:baseline训练1.05T tokens消耗12311 B200 - hours;而TST训练2T tokens,仅消耗4768 B200 - hours,约为baseline的38.7%;同时,final loss从2.252降至2.236,HellaSwag、ARC - E、ARC - C、MMLU等0 - shot评测同步提升。也就是说,TST用约四成GPU时间,就取得了更低的loss和更好的下游指标,相当于在相同最终损失下将预训练时间压缩到原来的40%,提速约2.5倍。

Nous Research与DeepSeek的对比

如果说超越龙虾(OpenClaw)、登顶全球OpenRouter的Hermes Agent,证明了Nous Research团队既擅长训练模型,又能通过Agent将模型能力发挥到极致;那么最新提出的TST,则将关注点从“模型怎么用”拉回到能力源头,直击预训练本身。将Nous Research与DeepSeek对标,不仅因为这支美国团队长期坚守开源阵营,更因为二者降本路线不同。DS代表系统级重构,通过MoE、MLA、稀疏化与并行优化等系统级工程挖掘算力。但效率提升并非没有代价,工程复杂度会在其他方面体现。而NR则重写预训练早期的学习路径,不改变架构,从模型学习token的方式本身入手,更易实施。

TST:让模型先“粗读”,再“精读”

要理解TST,需回到预训练最基础的动作——next - token prediction(下一个词元的预测)。标准训练中,模型根据前面的token预测下一个token,这种机制简单且强大,过去几年主流LLM大多基于此范式构建。但TST提出疑问:模型预训练初期是否有必要逐token精读?NR认为不一定,他们将预训练分为两个阶段。第一阶段是superposition phase(“词元叠加阶段”)。训练前期,模型不再逐个读取token,而是将连续多个token组合成一个bag。例如bag size为8,就把连续8个token视为一组。输入侧,模型将这组token的embedding(“向量表示”)求平均,得到一个压缩后的superposed token(“叠加词元”);输出侧,模型不再预测下一个单独token,而是预测下一组token中会出现哪些token。第二阶段是recovery phase(“恢复阶段”)。训练到一定比例后,移除TST,模型回到标准next - token prediction。即后半程按普通LLM方式训练,将前期“粗粒度学习”的表示转化为可生成、可部署的自回归模型形态。论文称TST为“即插即用式预训练方法”,关键在于它无需修改并行策略、优化器、tokenizer、训练数据或模型架构,只改变训练早期的输入粒度和监督目标。这与很多训练提效方案不同,TST只改变训练过程,不改变推理模型。目前很多方法优化训练端会影响推理,如更换tokenizer需重新兼容生态,修改模型结构要适配部署链路,改变注意力或推理机制会影响线上服务。但TST将复杂度留在训练阶段,最终交付普通LLM。当然,只用TST训练不够。论文指出,若模型全程使用TST,会输出多个未来token的混合概率,生成结果会混乱。所以TST后期需切换回标准自回归训练,它更适合作为“阶段化训练策略”,而非next - token prediction的替代品。直白地说,TST就像让模型在预训练早期先“粗读”,学习局部语义、词汇共现和粗粒度分布,建立基础表示后,再进行逐token的标准自回归训练,提升生成能力和token级精度,即训练时压缩token,推理时仍是普通LLM。

为什么能省GPU?每一步都吃进更多文本

TST提速并非偶然,其核心是资源取舍,用更粗的token表示换取更高的数据吞吐。这里的数据吞吐对应论文中的data throughput per FLOPs,可理解为“单位计算量能处理多少原始文本”。即不是GPU变快,而是相同计算量下,模型能处理更多文本。标准训练中,模型每个位置处理一个token,序列长度为L,Transformer就要处理L个表示。但在TST的superposition phase,连续s个token合成一个superposed token,模型内部处理的序列长度变短,但每个位置对应的原始文本增多。因为模型基于更粗粒度的表示计算,相同FLOPs下可处理s倍的数据token。传统预训练像逐字精读,TST早期训练则像快速浏览段落,把握局部主题、词汇共现和语义分布,建立基础表示后再逐字精读。这种“粗读”有代价,会丢失bag内的词序信息,所以不能全程使用。但在模型接触语言统计结构初期,低分辨率输入高效且够用。论文将此定义为“由粗到细”的策略,先让模型在简单、高吞吐的分布中学习粗粒度统计结构,再恢复全分辨率语言建模。这与当前主流效率路线不同:MoE让每个token少激活参数;稀疏注意力让每个token少看位置;MTP(Multi - Token Prediction,多token预测)让每个位置多预测几个未来token;而TST让模型在训练早期改变token粒度学习。它不缩小模型,也不直接加快推理,而是让预训练早期每一步更有价值。这对开发者很重要,预训练是不断试错的过程,早期训练快速进入有效区间,就能更早验证数据配方、超参设置等实验。TST节省的不仅是一次训练的GPU小时,更是整个实验周期的试错成本。

最大收益来自百亿参数模型

论文不仅进行小模型实验,还在270M、600M、3B稠密模型,以及10B - A1B MoE上验证。这里的10B - A1B MoE是总参数约100亿、每token激活约10亿参数的MoE模型,是收益最大的受试模型。也就是说,TST处理了更多数据token,但用更少GPU时间取得更好结果。论文指出,相同loss口径下,TST提速约2.5倍,这足以吸引开发者。因为模型训练中,成本高的往往不是一次成功训练,而是成功前的试错。一次实验少用一半以上GPU时间,意味着相同预算下可进行更多数据配方、超参和模型尺度的验证。论文还进行多组小规模超参数扫描实验(sweep),观察不同bag size和superposition step ratio的影响。最终作者认为,合理范围内,TST对超参选择较稳健,bag size在4到8,superposition训练步数比例在0.2到0.4时,表现较好。另外,TST并非单一机制起作用。论文进行输入侧、输出侧和完整TST的消融实验,输入侧和输出侧单独使用都优于baseline,但完整TST效果最佳。作者指出,TST是两个机制叠加:输入侧改变输入粒度和单位信息的FLOPs成本;输出侧改变预测目标与梯度信号。这套机制的意义在于,输入侧在训练早期为模型提供低分辨率视野,使其以低成本接触更多文本;输出侧将监督信号从“下一个token是什么”变为“接下来这一小段大概会出现哪些token”,前者提高吞吐,后者提高监督密度。这也是TST和MTP看似相似但本质不同的原因。MTP是在同一位置额外预测多个未来token,TST则将输入和输出改为更粗粒度的局部窗口,一个增加监督题目,一个改变学习分辨率。

训练降本开始转向学习路径优化

TST的亮点不在于设计复杂新架构,而在于提醒大家:训练降本不必只关注模型结构。过去降本主要依靠加卡、改架构、优化并行、进行蒸馏等系统级操作,小团队难以承受。但TST提供了更轻松的方法,只调整预训练早期的学习路径。这意味着相同GPU预算可进行更多配方测试,1B到10B级垂直模型的试错成本将明显降低。对于只想训练适用行业模型的中小团队,这比追求前沿模型更务实。当然,TST并非免费午餐。它本质是“用数据吞吐换GPU时间”,算力受限的团队适用;但数据不足的团队,TST可能放大数据短板。不过,这并不影响其方向价值。TST重新提出一个被忽视的问题:模型学习语言的顺序本身可能是提升效率的关键。当模型成本增加,有价值的创新不仅是做大模型,更要让模型更会学习,让每一步训练更有价值。

__EF550.zip 立即下载

相关推荐

【高速互连技术】合规性测试规范:物理层信号完整性与链路均衡验证系统设计

内容概要:本文档介绍了分析工具进行实践对照,并关注后续规范版本更新以确保符合最终发布标准。

不改架构、不加算力:Nous Research巧用Token叠加,预训练提速2.5倍

结果表明,单独应用输入叠加(压缩粒度)或输出叠加(改造梯度信号)均能带来超越基线的增益,而两者的结合并未产生干扰,证明了这两种机制在底层是完全正交的。如果在恢复阶段开始时,随机重新初始化模型的输入 embedding 层和输出 LM Head,TST 在前期积累的所有优化红利将彻底清零,最终的损失值会高过从零开始的基线模型。总有一些你不认识的人,知道你想知道的东西。在 embedding 层,这 s 个 Token 的向量表示会被取平均,形成一个新的 latent s-token 表示。

Paper weekly 650

万人睡眠健康与生活方式调查数据集

成年人群睡眠健康与生活方式研究数据集,合成模拟10000行20列单CSV文件,睡眠障碍标记人群占比约四分之一。设置双预测目标:睡眠障碍二分类字段与日间疲劳得分回归字段,可分别开展分类与回归建模。特征字段涵盖年龄、性别、十一种职业类别、每周工作时长、轮班工作标记、自我压力评分、身体质量指数BMI、吸烟状态、每周饮酒量、每日咖啡因摄入毫克数、睡前一小时屏幕使用时间、每周运动分钟数、日均步行数、静息心率、习惯就寝时间点、平均睡眠时长、睡眠质量自评等二十项。数据完整无缺失,结果列与特征列分离清晰,便于目标泄漏防范练习。适用场景:睡眠障碍预测建模、日间疲劳程度回归分析、咖啡因与睡前屏幕对睡眠时长的影响量化、不同职业群体睡眠质量对比研究、逻辑回归与梯度提升模型对比实战等。合成数据不含真实个人信息,适合健康数据分析教学、特征工程练习与机器学习课程实训项目使用。

考虑风光火储+需求响应+P2G多能源系统NSGA-II多目标优化调度(Matlab代码实现)

考虑风光火储+需求响应+P2G多能源系统NSGA-II多目标优化调度(Matlab代码实现)内容概要:本文介绍了基于NSGA-II多目标优化算法对包含风能、光伏、火电、储能系统、需求响应及电转气(P2G)等多种能源形式的综合能源系统进行优化调度的研究,采用Matlab进行代码实现。研究综合考虑了系统运行成本、碳排放、能源利用率等多个优化目标,通过建立精确的数学模型,结合可再生能源出力不确定性、负荷波动以及需求响应机制,实现多能源协同调度的帕累托最优解集求解,旨在提升能源系统的经济性与环保性,并验证所提方法的有效性和实用性。; 适合人群:具备一定电力系统、优化算法及Matlab编程基础的研究生、科研人员以及从事能源系统规划与运行相关工作的工程技术人员。; 使用场景及目标:①应用于多能源互补的综合能源系统优化调度研究;②为实现低碳、高效、可靠的能源供应提供决策支持;③学习和掌握NSGA-II算法在复杂多目标优化问题中的实际应用方法。; 阅读建议:建议读者结合Matlab代码与文中模型描述逐步理解算法实现流程,重点关注目标函数构建、约束处理及Pareto解集的生成与分析,有条件者可进一步修改参数或扩展模型以深化理解。

FANUC-R2000iC165F-六轴机械臂码垛仿真

FANUC_R2000iC165F_六轴机械臂码垛仿真

frontend-design skills

frontend-design skills

16周全【Harness&Hermes】多智能体开发特训营

2026年的AI开发者圈子里,几乎没有人再怀疑多智能体的价值。Gartner预测年底40%的企业应用将内置智能体,LangChain、AutoGen、CrewAI等框架轮番登场,演示视频里的AI团队分工明确、配合流畅。然而,一个尴尬的现实是:大多数开发者手里跑通的多智能体项目,停留在Jupyter Notebook的最后一行。一旦试图把它塞进真实业务环境,问题便如潮水般涌来——长任务跑到一半崩了要重来,智能体之间的消息黑盒般不可追溯,换个场景就得推倒重写,上线之后连“刚才那次调用为什么花了三倍的钱”都查不出来。 这正是【Harness&Hermes】多智能体开发特训营试图回应的命题。它的切入点不在“再教你写一个Demo”,而在于一个更朴素却更稀缺的能力:让多智能体系统从演示玩具变成可交付、可运维、可演进的生产资产。 要理解这门课的价值,得先看清多智能体开发当前的断层在哪里。单Agent时代,提示词写得好、API调得通,基本就能交差。但多Agent协作的本质是编排:谁负责拆解需求,谁负责执行,谁负责校验,上下文如何在角色之间传递而不丢失,某个环节出错时整条链路如何回退。这些问题的难度不在模型能力,而在工程控制。市面上不缺讲LangGraph节点怎么连、RAG检索怎么做的教程,缺的是把“多个智能体在真实业务压力下稳定协作”这件事讲透的人。 Harness与Hermes的分工,恰好对应了工程控制的左右手。根据课程的设计逻辑,Harness管“流程”,Hermes管“记忆与进化”。Harness 负责长任务的流程治理:一个面试模拟流程跑了二十分钟,中途用户关掉页面,下次打开能不能接着上次的进度继续?某个Agent调用工具超时了,整条链路是崩溃还是优雅降级?线上出了问题,日志能不能精确到“第几轮对话、哪个Agent、调了什么工具、花了多少token”。这些听起来不性感,但任何一

政府科技管理者在推动区域科技成果转化过程中,如何解决成果供需匹配效率低的问题?.docx

政府科技管理者在推动区域科技成果转化过程中,如何解决成果供需匹配效率低的问题?

产业园区运营负责人如何利用数据智能化提升科技资源配置效率?.docx

科易网基于行业知识库+行业大数据+科技资源要素+AI模型,以AI,赋能技术转移、成果转化、技术经理人培训、知识产权管理、区域产业分析与布局、地方科技招商、创新创业大赛等场景,推出科技创新领域的AI工具、场景化服务和数智化解决方案,推动科技创新与产业创新智能化发展。

国企央企如何实现技术成果的精准对接与快速落地?.docx

科易网基于行业知识库+行业大数据+科技资源要素+AI模型,以AI,赋能技术转移、成果转化、技术经理人培训、知识产权管理、区域产业分析与布局、地方科技招商、创新创业大赛等场景,推出科技创新领域的AI工具、场景化服务和数智化解决方案,推动科技创新与产业创新智能化发展。

用于计算系统状态的卡尔曼最优增益和最小均方误差(MMSE)估计研究(Matlab代码实现)

内容概要:本文围绕用于计算系统状态的卡尔曼最优增益和最小均方误差(MMSE)估计展开研究,深入探讨了卡尔曼滤波在动态系统状态估计中的核心作用。文章系统阐述了卡尔曼滤波的数学基础,包括状态空间模型的建立、先验与后验状态估计、协方差矩阵的递推更新,以及最优增益矩阵的推导过程,确保在高斯白噪声环境下实现对系统状态的最小均方误差估计。结合Matlab代码实现,完整展示了算法从理论建模到仿真实验的全流程,涵盖系统建模、噪声设置、滤波迭代、状态更新与误差分析等环节,并通过仿真实验验证了算法在噪声干扰下对系统真实状态的高精度跟踪能力。该研究为控制工程、导航系统、信号处理及自动化领域中的状态估计问题提供了坚实的理论依据与高效的数值实现方案。; 适合人群:具备一定控制理论、概率统计基础和Matlab编程能力,从事自动化、电子信息、航空航天、机器人、导航定位等相关领域的科研人员、工程技术人员及高校研究生。; 使用场景及目标:①掌握卡尔曼滤波的基本原理及其在状态估计中的数学推导过程;②学习如何利用Matlab实现卡尔曼滤波算法并进行系统仿真与性能评估;③应用于目标跟踪、传感器融合、惯性导航、故障诊断、时间序列预测等实际工程中的动态状态估计问题。; 阅读建议:建议读者结合文中提供的Matlab代码进行动手实践,通过调整系统模型参数、过程噪声与观测噪声强度,观察滤波效果的变化,深入理解卡尔曼增益的自适应调节机制与MMSE估计的收敛特性。同时可进一步拓展学习扩展卡尔曼滤波(EKF)、无迹卡尔曼滤波(UKF)等非线性滤波方法,以应对更复杂的非线性系统状态估计挑战。

一种具有实验验证的层级扰动抑制深度跟踪控制算法,适用于欠驱动型AUV(Simulink仿真、Matlab代码)

内容概要:本文详细介绍了一种专为欠驱动型自主水下航行器(AUV)设计的层级扰动抑制深度跟踪控制算法,该算法通过构建分层控制架构,有效应对海洋环境中复杂的外部扰动(如水流、波浪等)以及系统内部的非线性动态特性,显著提升了AUV在执行深度跟踪任务时的控制精度与系统鲁棒性。研究不仅涵盖了控制策略的理论设计与稳定性分析,还包括详细的Simulink仿真模型搭建、Matlab代码实现及参数设置,并通过对比实验验证了所提方法在抗干扰能力和跟踪性能方面相较于传统控制算法的优越性。资源包内含完整的可运行代码、仿真模型和详尽的文档说明,便于研究者复现结果并在此基础上进行二次开发与创新。; 适合人群:具备自动控制理论基础、海洋工程或机器人相关学科背景,且熟练掌握Matlab/Simulink仿真环境的科研人员、研究生及高年级本科生。; 使用场景及目标:① 深入学习和研究欠驱动AUV的先进运动控制技术,特别是深度跟踪控制策略;② 开展水下机器人抗外部扰动控制算法的设计、仿真与性能验证工作;③ 作为毕业设计、科研项目或学术论文的技术支撑与代码原型,加速研究进程。; 阅读建议:建议使用者结合提供的Matlab代码与Simulink模型,逐模块理解算法的实现逻辑与数据流,推荐从简单静态环境仿真入手,逐步过渡到复杂动态扰动工况,通过调整控制器参数与扰动强度,全面掌握算法的性能边界、鲁棒性特征及优化潜力。

高校技术转移办公室人员如何提升成果转化服务效率?.docx

科易网基于行业知识库+行业大数据+科技资源要素+AI模型,以AI,赋能技术转移、成果转化、技术经理人培训、知识产权管理、区域产业分析与布局、地方科技招商、创新创业大赛等场景,推出科技创新领域的AI工具、场景化服务和数智化解决方案,推动科技创新与产业创新智能化发展。

国央企如何构建高效的内部技术转移与创新协同机制?.docx

科易网基于行业知识库+行业大数据+科技资源要素+AI模型,以AI,赋能技术转移、成果转化、技术经理人培训、知识产权管理、区域产业分析与布局、地方科技招商、创新创业大赛等场景,推出科技创新领域的AI工具、场景化服务和数智化解决方案,推动科技创新与产业创新智能化发展。

国央企创新负责人如何利用平台实现技术需求的精准挖掘与匹配?.docx

科易网基于行业知识库+行业大数据+科技资源要素+AI模型,以AI,赋能技术转移、成果转化、技术经理人培训、知识产权管理、区域产业分析与布局、地方科技招商、创新创业大赛等场景,推出科技创新领域的AI工具、场景化服务和数智化解决方案,推动科技创新与产业创新智能化发展。

自适应多机器人编队规划,以包围和跟踪具有运动和可见性约束的目标(Matlab代码实现)

内容概要:本文提出了一种自适应多机器人编队规划方法,旨在实现对具有运动能力和可见性约束目标的高效包围与持续跟踪,采用Matlab进行算法实现与仿真验证。该方法综合考虑了多机器人系统在动态环境中的协同控制、编队形态生成与保持、障碍物规避以及目标可见性维护等关键问题,通过设计分布式控制律使编队能够根据目标行为和环境变化自适应调整队形与运动轨迹,确保稳定包围并最大化目标观测质量。文中详细阐述了系统的数学建模过程、控制策略设计原理及约束处理机制,并提供了多场景下的仿真实验结果,验证了所提方法在复杂条件下的鲁棒性、灵活性与有效性。; 适合人群:具备自动化、机器人学、控制理论或人工智能等相关领域基础知识的科研人员及研究生,熟悉Matlab编程环境并致力于多智能体系统、协同控制、路径规划或智能无人系统研究的专业人士。; 使用场景及目标:①应用于多机器人系统在监视、围捕、搜救等任务中对移动目标的协同包围与跟踪控制;②为研究分布式编队控制、可见性优化、动态避障与多智能体协同决策等核心技术提供可复现的算法实例与理论支撑; 阅读建议:建议读者结合提供的Matlab代码逐模块分析算法实现细节,重点关注控制律设计、约束建模与仿真结果对比部分,宜在仿真环境中调整参数配置以深入理解系统性能边界与优化潜力。

圆柱形永磁体的磁场建模研究(Matlab代码实现)

内容概要:本文围绕圆柱形永磁体的磁场建模展开系统性研究,基于毕奥-萨伐尔定律建立了有限尺寸圆柱形永磁体的物理模型,推导出其在空间任意点产生磁场强度的数学表达式,并采用数值积分方法结合Matlab编程实现磁场分布的精确计算与三维可视化。研究深入探讨了磁体的几何参数(如半径、高度)和磁化方向对磁场分布特性的影响,实现了磁场矢量的多维度仿真分析,为电机设计、磁传感器开发、磁悬浮系统等工程应用提供了坚实的理论依据与高效的仿真工具支持; 适合人群:具备电磁场与电磁波、大学物理等相关理论基础,并熟悉Matlab编程语言的高校理工科学生、科研人员及从事磁性器件设计与仿真的工程技术开发者; 使用场景及目标:①掌握基于经典电磁理论的磁场建模方法与数值求解流程;②学习并实践Matlab在科学计算与物理场仿真中的高级应用技巧;③为永磁材料相关装置的结构优化与性能评估提供可靠的仿真手段;④服务于高校课程教学、科研项目验证及工程原型开发; 阅读建议:建议读者在学习过程中紧密结合电磁学基本原理,逐步理解公式推导逻辑,动手运行并调试所提供的Matlab代码,通过调整磁体参数观察磁场变化趋势,从而深化对永磁体空间磁场分布规律的认识,并尝试将其拓展应用于实际工程项目中。

从PWM到正弦波:RC低通滤波器的魔法转换之旅

本文详细介绍了如何利用RC低通滤波器将STM32F103生成的PWM信号转换为高质量正弦波的技术原理与实践方法。通过分析滤波器设计、参数计算、硬件实现及Proteus仿真验证,为嵌入式开发者提供了一套完整的PWM转正弦波解决方案,适用于电机控制、音频信号生成等多种应用场景。

jupi8的博客 382
上一篇: AI浪潮下微软危机四伏:股价下跌、业务受冲击、盟友失控,未来何去何从?
下一篇: 实测淘宝、京东AI购物助手:各有优劣,距离“贴心管家”还有多远?
IT界那些事儿
博客等级 码龄6年 2万+粉丝 22原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值