Qwen团队发布长上下文Reasoning模型QwenLong-L1，超越o3-mini

关注

原创最新推荐文章于 2026-06-21 09:01:31 发布 927 阅读 AI 写同款· GEO 优化 ›

知乎联手DeepSeek重构知识搜索：大模型让专业问答进入「推理时代」在这场变革中，平台需要构建“人类社区+AI工具”的混合生态，个体则需拥抱“人机协同”的新工作哲学——因为未来不属于AI或人类，而属于最善用AI的人类。这一合作不仅让知乎股价单日暴涨17%，更标志着大模型技术从“生成答案”向“推理答案”的跨越——知识服务的竞争，正式进入逻辑与证据并重的深水区。传统AI问答往往面临“结果正确但依据模糊”的痛点，而DeepSeek-R1通过调用知乎语料库，使推理过程可追溯至具体文献或高赞回答，大幅降低“AI幻觉”风险。这种“技术普惠+垂直深耕”的组合，正在重构全球AI竞争格局。阅读详情

大模型的长上下文推理为何难？

可以这么简单思考夏，你让一个学霸看完一本1000页的学术报告，然后回答一个复杂问题。学霸可能抓不住重点，或者中途走神——这就是当前大模型处理长文本的困境！

现有的GPT、Claude等模型在短文本（比如4千字内）的数学题、编程题上表现惊艳，但面对长达12万字的文档问答时，往往“记忆力差”“逻辑混乱”。论文指出两大难题：

训练效率低：长文本导致模型探索答案时“畏手畏脚”（输出多样性下降）。
训练过程不稳定：长文本生成容易“跑偏”，导致模型参数波动剧烈。

论文：QwenLong-L1: Towards Long-Context Large Reasoning Models with Reinforcement Learning
链接：https://arxiv.org/pdf/2505.17667

短上下文模型如何突破长文本限制？

传统方法靠“死记硬背”（监督学习），但长文本需要模型具备“主动思考”能力。比如：

从100页财报中找到关键数据
跨多篇论文推导结论

这就像让一个只会做选择题的学生，突然面对开放式研究课题——必须用强化学习（RL）激发“主动推理”能力！

QwenLong-L1的三个方法

一分阶段“升级”的强化学习

模型不是一口气学完长文本，而是像打游戏一样分阶段“练级”：

第1关：先学2万字以内的文本（热身）
第2关：挑战6万字的“困难模式”

每个阶段只专注当前难度，避免“贪多嚼不烂”。

二动态调整难度

系统会主动筛选“历史难题”，比如之前得分低的题目，让模型反复练习薄弱环节。这种“错题本”机制，让学习效率翻倍！

三混合奖励机制：既要精确，又要灵活

规则奖励：答案必须严格匹配标准（比如数字不能错）
裁判奖励：用另一个小模型判断答案语义是否合理（比如“10%”和“0.1”算对）

最终奖励取两者最大值，兼顾精准与灵活！

实验：超越o3-mini、比肩Claude

在7个长文本问答基准测试中：

QwenLong-L1-32B 平均得分70.7，超过OpenAI的o3-mini（70.4），直逼Claude-3.7（70.7）！
QwenLong-L1-14B 以68.3分碾压Gemini-2.0（65.7），甚至比自家32B基础模型还强！

关键结论：

单纯监督学习（SFT）只能提升0.8分，强化学习（RL）直接拉高5.1分！
模型在长文本中学会了“划重点”“自我纠错”。

Case分析

Case1：计算企业融资成本

旧模型：被财务报表细节绕晕，算错利息（答成20.4万美元）
新模型：主动回溯文档，排除干扰信息，最终算出正确答案32.4万美元！

Case2：推断贷款利息

新模型通过“分步目标”“自我验证”，从49页法律文件中精准提取数据，算出98万美元利息。

展望：无限长文本处理不是梦

论文提出三个方向：

任务扩展：自动科研、长视频分析等场景
架构升级：用线性注意力机制降低计算成本
训练范式革新：把长文本拆成“多轮对话”逐步优化

或许未来，AI能帮你读完一整部《三体》并写深度解析！

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述