Qwen2.5-VL Technical Report

本文是LLM系列文章，针对《Qwen2.5-VL Technical Report》的翻译。

摘要

我们推出Qwen2.5-VL，这是Qwen视觉语言系列的最新旗舰模型，它在基础功能和创新功能方面都取得了重大进展。Qwen2.5-VL通过增强的视觉识别、精确的对象定位、强大的文档解析和长视频理解，在理解和与世界互动方面实现了重大飞跃。Qwen2.5-VL的一个突出特征是它能够使用边界框或点准确定位对象。它提供了从发票、表单和表格中提取强大的结构化数据，以及对图表、示意图和布局的详细分析。为了处理复杂的输入，Qwen2.5VL引入了动态分辨率处理和绝对时间编码，使其能够通过二级事件定位处理不同大小的图像和持续时间延长（长达数小时）的视频。这使得模型能够原生地感知空间尺度和时间动态，而不依赖于传统的归一化技术。通过从头开始训练原生动态分辨率视觉Transformer（ViT）并结合Window Attention，我们在保持原生分辨率的同时显著降低了计算开销。因此，Qwen2.5-VL不仅在静态图像和文档理解方面表现出色，而且作为一个交互式视觉代理，能够在操作计算机和移动设备等现实世界场景中进行推理、工具使用和任务执行。该模型实现了跨领域的强泛化，而不需要特定任务的微调。Qwen2.5-VL有三种尺寸可供选择，适用于从边缘AI到高性能计算的各种用例。旗舰Qwen2.5-VL-72B模型与GPT-4o和Claude 3.5 Sonnet等最先进的模型相匹配，尤其擅长文档和图表理解。较小的Qwen2.5-VL-7B和Qwen2.5-VL-3B模型的性能优于同类竞争对手，即使在资源受限的环境中也能提供强大的功能。此外，Qwen2.5-VL保持了稳健的语言表现，保留了Qwen2.5 LLM的核心语言能力。

1 引言