文档解析的“iPhone时刻”来了！百度PaddleOCR-VL转向VLM，从“看字”到“懂图”的惊天一跃！

原创于 2025-12-15 13:39:40 发布 · 692 阅读

24 ·

CC 4.0 BY-SA版权

文章标签：

#百度 #dubbo #人工智能 #搜索引擎 #机器学习 #深度学习 #transformer

引言

前天，百度发布了新的解析模型 PaddleOCR-VL，这项工作标致着 PaddleOCR 开了全新的模型线。

PaddleOCR 是很多模型模型的集合，比如 PP-OCR 专用于文本检测和识别，PP-ChatOCR 专用于智能信息提取。

而对于复杂文档解析，PaddleOCR 原本是有个 PP-Structure 模型线，而且已更新到了V3。

不过 PP-Structure 用的是集成解析方案，类似于 MinerU 的 pipeline 方案，这种路线目前已逐步接近性能瓶颈。

PaddleOCR-VL 则是一次方向转型，通过一个 0.9B参数量的 VLM 模型，实现了文档解析。

根据其在 OmniDocBench 数据集披露的表现，性能指标又比 MinerU 2.5 高了一点。

本文就根据其技术报告[1]，看看这个模型背后是什么机理。

模型架构

PaddleOCR-VL 是个两阶段的结构：

第一阶段采用 PP-DocLayoutV2 进行版面分析，负责定位语义区域并预测阅读顺序
第二阶段通过 PaddleOCR-VL-0.9B 模型，基于版面预测结果对文本、表格、公式和图表等多样化内容进行细粒度识别，最后将文档结构化转换为Markdown与JSON格式。

这个思路和 MinerU 2.5 是一样的，先检测位置，再进行识别，只不过 MinerU 2.5 两个阶段都是用的同一个模型，PaddleOCR-VL 则是不同的模型。

第一阶段：PP-DocLayoutV2

PP-DocLayoutV2 具体结构是由两个顺序连接的网络组成：

第一个：基于RT-DETR的检测模型，负责执行布局元素检测与分类
第二个：输入检测到的边界框和类别标签，通过指针网络对这些布局元素进行排序

第二阶段：PaddleOCR-VL-0.9B

PaddleOCR-VL-0.9B 的核心是通过 ERNIE-4.5-0.3B 这个语言模型驱动的，它的输入包括两部分：

第一部分：不同的任务指令(文本识别/表格识别)，通过分词器(tokenizer)，再进行向量化嵌入
第二部分：不同的图像元素通过NaViT风格编码器之后，再经过两层MLP和GELU之后，跟在指令输出后面

NaViT风格编码器是 2023 年 Google 的一项工作，特点是能够接收不同分辨率和长宽比图像的输入，并且它支持可变分辨率推理，即训练时可以采用较低分辨率，推理时能自动适配更高分辨率图像。

数据构建

数据构建的整体流程如下图所示：

数据从四个途径获取：

开源数据集：采用CASIA-HWDB等开源数据，数据经过筛选和清洗，剔除噪声较多及低质量的标注
合成数据集：为解决公共数据天然存在分布不均衡的问题，采用数据合成策略低成本生成大量缺失数据类型
网络数据集：从网上获取学术论文、报纸、期刊文章、PPT等数据
内部数据集：内部积累的数据集

获取数据之后，利用 PP-StructureV3 对数据集进行初步推理，生成伪标签，然后用更先进的多模态大模型 ERNIE-4.5-VL 和 Qwen2.5-VL 对标签进行校验和改进。

最后，通过人工筛选、标注等方式进一步挖掘困难样本，最后形成训练数据集。

推理性能

在报告附录中，进一步展示 PaddleOCR-VL 在不同设备显卡和推理框架下的性能，如下图所示：

从图中可以得出结论：

vLLM 的处理速度优于 SGLang，所以正常部署选 vLLM 就行了
最小显存占用在 RTX5070 显卡上是 8.9GB，所以显存不足的一些消费级显卡想本地部署，可以洗洗睡了
普通消费级显卡基本上需要2-3秒处理完一页内容，这比 MinerU 2.5的速度是要慢的，作者表示还有优化空间

在线使用

通过 PaddleOCR-VL 试用Demo[2]可以在线进行使用。

离线部署

PaddleOCR-VL技术播客[3] 给出了离线部署方式。

安装依赖

安装 PaddlePaddle 和 PaddleOCR

python -m pip install paddlepaddle-gpu==3.2.0 -i https://www.paddlepaddle.org.cn/packages/stable/cu126/python -m pip install -U "paddleocr[doc-parser]"python -m pip install https://paddle-whl.bj.bcebos.com/nightly/cu126/safetensors/safetensors-0.6.2.dev0-cp38-abi3-linux_x86_64.whl

快速使用

CLI:

paddleocr doc_parser -i https://paddle-model-ecology.bj.bcebos.com/paddlex/imgs/demo_image/pp_ocr_vl_demo.png

Python API:

from paddleocr import PaddleOCRVLpipeline = PaddleOCRVL()output = pipeline.predict("https://paddle-model-ecology.bj.bcebos.com/paddlex/imgs/demo_image/pp_ocr_vl_demo.png")for res in output:    res.print()    res.save_to_json(save_path="output")    res.save_to_markdown(save_path="output")

使用 vLLM 加速推理

启动 vLLM 推理服务器，默认端口是8080：

docker run \    --rm \    --gpus all \    --network host \    ccr-2vdh3abv-pub.cnc.bj.baidubce.com/paddlepaddle/paddlex-genai-vllm-server

CLI:

paddleocr doc_parser \    -i https://paddle-model-ecology.bj.bcebos.com/paddlex/imgs/demo_image/pp_ocr_vl_demo.png \    --vl_rec_backend vllm-server \    --vl_rec_server_url http://127.0.0.1:8080

Python API:

from paddleocr import PaddleOCRVLpipeline = PaddleOCRVL(vl_rec_backend="vllm-server", vl_rec_server_url="http://127.0.0.1:8080")output = pipeline.predict("https://paddle-model-ecology.bj.bcebos.com/paddlex/imgs/demo_image/pp_ocr_vl_demo.png")for res in output:    res.print()    res.save_to_json(save_path="output")    res.save_to_markdown(save_path="output")

总结

这项工作整体看下来是比较清晰的，但是还是能看出做的比较“仓促”，具体体现在：

双阶段模型用的是不同的模型，这会有点割裂，毕竟 VLM 的方向整体上走的是用一个模型解决全部问题，用不同的模型组合，仍然是一种“变相”的集成
在推理效率方面，用不同的模型组合，不仅会占用更多的显存，而且加速的空间也会降低

个人合理揣测是，当 MinerU 2.5 成果出来之后，PaddleOCR 立马跟进，最快速度开发的策略就是复用之前效果不错的组件，或许这就是大公司的压力，但能在短时间做出成果，效率还是值得钦佩的。

从旁观者角度看，很乐意这些参赛选手“卷起来”，因为这些工作都开源，而且在数据标注方面，可以成果交叉复用，提升自动化标注的效果，最终还是利好行业应用者。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述