Qwen2.5 Technical Report

本文是LLM系列文章，针对《Qwen2.5 Technical Report》的翻译。

摘要

在本报告中，我们将介绍Qwen2.5，这是一系列旨在满足不同需求的大型语言模型（LLM）。与之前的迭代相比，Qwen 2.5在预训练和后训练阶段都得到了显著改进。在预训练方面，我们已经将高质量的预训练数据集从之前的7万亿个token扩展到18万亿个token。这为常识、专家知识和推理能力提供了坚实的基础。在后训练方面，我们使用超过100万个样本实施了复杂的监督微调，以及多阶段强化学习，包括离线学习DPO和在线学习GRPO。训练后技术显著增强了人类的偏好，并显著改善了长文本生成、结构数据分析和指令遵循。
为了有效地处理各种各样的用例，我们提供了丰富配置的Qwen2.5 LLM系列。开放式重量产品包括基本模型和指令调整模型，尺寸为0.5B、1.5B、3B、7B、14B、32B和72B参数。还提供了指令调优模型的量化版本。可以从Hugging Face Hub、ModelScope和Kaggle访问100多个模型。此外，对于托管解决方案，专有模型目前包括两种混合专家（MoE）变体：Qwen2.5Turbo和Qwen2.5 Plus，均可从阿里云模型工作室获得。
Qwen2.5在评估语言理解、推理、数学、编码、人类偏好对齐等各种基准测试中表现出了顶级性能。具体来说，开放式重量旗舰产品Qwen2.5-72B-Instruct的性能优于许多开放式和专有模型，并与最先进的开放式重量模型Llama-3-405B-Instruct相媲美，后者大约是前者的5倍。Qwen2.5-Turbo和Qwen2.5 Plus具有卓越的成本效益，同时分别与GPT-4o-mini和GPT-4o竞争。此外，作为基础，Qwen2.5模型在训练专业模型方面发挥了重要作用，如Qwen2.5-Math、Qwen2-5-C