
文章主要内容总结
本文针对开源模型在复杂信息检索任务中与专有系统(如DeepResearch)存在的性能差距,提出了一种名为WebSailor的完整后训练方法,旨在赋予开源模型“系统性降低高不确定性”的超人类推理能力。
- 核心问题:开源模型在处理高不确定性、无预定义路径的复杂信息任务(Level 3任务)时表现极差,而专有系统因具备独特推理模式(如系统性降低不确定性)表现优异。
- 方法框架:
- 高不确定性任务生成:通过随机游走构建复杂知识图谱,结合子图采样和信息混淆(如模糊实体、关系隐藏)生成Level 3任务,迫使模型突破简单 heuristics。
- 推理轨迹重构:利用开源大推理模型(如QwQ、DeepSeek-R1)生成有效行动轨迹,但剥离其冗长推理,重构简洁、面向行动的推理步骤,避免风格污染和上下文过载。
- 训练优化:采用RFT(拒绝采样微调)冷启动奠定基础能力,结合高效强化学习算法DUPO(Duplicating Sampling Policy Optimization)提升训练效率(比现有方法快2-3倍)。
- 实验结果:WebSailor
订阅专栏 解锁全文
867



被折叠的 条评论
为什么被折叠?



