打造自己的RAG解析大模型:(可商用)智能文档服务上线部署

【MinerU × LazyLLM】PDF无损拆包,让RAG更懂你的文章!附PDF解析组件选型与RAG案例分享 ​针对PDF格式文档版式多样、解析难度大等难题,上海人工智能实验室推出了一款究极武器——MinerU,各位开发者在以往的开发过程中可能听说过这个名字,但这玩意儿究竟是个啥呢?本文将带你一同探索它的奇妙之处,并带大家使用LazyLLM,结合MinerU打造PDF解析与RAG应用的无缝链路。 阅读详情

通用版面分析介绍

版面解析是一种将文档图像转化为机器可读数据格式的技术,广泛应用于文档管理和信息提取等领域。通过结合OCR、图像处理和机器学习,版面解析能够识别文档中的文本块、图片、表格等版面元素,最终生成结构化数据,大大提高了数据处理的效率和准确性。典型的通用版面解析流程包括表格识别、版面区域分析、文本检测、公式识别等模块,帮助实现从简单文本到复杂文档的全面信息提取。这种技术为企业和数据密集型行业带来了显著的效益,提升了自动化文档处理的能力。

服务化部署

服务化部署是生产环境中高效、灵活的部署方式,通过将推理模型打包为独立服务,客户端可以通过网络请求访问,获取实时推理结果。这种方式不仅减少了部署难度,还使得模型的扩展和更新更加便捷,适合需求多变的业务场景。PaddleX 支持低成本地实现产线级服务化部署,用户可快速集成模型推理服务,从而满足多种应用需求。这种方式特别适合需要高可用性和可扩展性的场景,如智能客服、图像分析等。

服务化部署示例图:

在这里插入图片描述

用户可以灵活选择要发布的模型模块,这些模型会通过 HTTP 协议作为接口发布,实现服务化部署,便于应用端直接调用,完成文档识别和解析。这样不仅简化了模型集成的流程,还提升了系统的可扩展性。无论是文本识别、表格解析,还是版面分析等功能,都能以标准化的服务形式供前端调用,为业务系统提供更稳定、高效的文档处理能力。

服务发布具体步骤

1、安装服务化部署插件

执行如下指令,安装服务化部署插件:

paddlex --install serving

2、启动服务

通过 PaddleX CLI 启动服务,指令格式为:

paddlex --serve --pipeline {产线名称或产线配置文件路径} [{其他命令行选项}]

以通用版面解析产线为例:

paddlex --serve --pipeline layout_parsing

服务启动成功后,可以看到类似如下展示的信息:

INFO:     Started server process [63108]
INFO:     Waiting for application startup.
INFO:     Application startup complete.
INFO:     Uvicorn running on http://0.0.0.0:8080 (Press CTRL+C to quit)

–pipeline可指定为官方产线名称或本地产线配置文件路径。PaddleX 以此构建产线并部署为服务。 与服务化部署相关的命令行选项如下:

名称说明
--pipeline产线名称或产线配置文件路径。
--device产线部署设备。默认为 cpu(如 GPU 不可用)或 gpu(如 GPU 可用)。
--host服务器绑定的主机名或 IP 地址。默认为0.0.0.0。
--port服务器监听的端口号。默认为8080。
--use_hpip如果指定,则启用高性能推理插件。
--serial_number高性能推理插件使用的序列号。只在启用高性能推理插件时生效。请注意,并非所有产线、模型都支持使用高性能推理插件,详细的支持情况请参考PaddleX 高性能推理指南。
--update_license如果指定,则进行联网激活。只在启用高性能推理插件时生效。

至此通用版面解析的服务发布成功,发布URL如下:

http://localhost:8080/layout-parsing

应用集成

在成功发布模型服务后,接下来的关键任务是构建自定义的解析应用层。这个层级可以根据具体的业务需求,进一步处理模型返回的解析结果。通过应用级别的操作,我们可以更灵活地对文字和表格数据进行拆分、聚合等操作,特别是针对 RAG(检索增强生成)场景的需求,将数据转化为向量化存储格式。这种设计不仅提升了文档解析的精度和效率,还为业务场景提供了可扩展的、个性化的数据处理能力。

以下是Python语言实现的应用基础代码示例:

import base64
import requests

API_URL = "http://localhost:8080/layout-parsing" # 服务URL

# 对本地图像进行Base64编码
with open(image_path, "rb") as file:
    image_bytes = file.read()
    image_data = base64.b64encode(image_bytes).decode("ascii")

payload = {
    "file": image_data, # Base64编码的文件内容或者文件URL
    "fileType": 1,
    "useImgOrientationCls": True,
    "useImgUnwrapping": True,
    "useSealTextDet": True,
}

# 调用API
response = requests.post(API_URL, json=payload)

# 处理接口返回数据
assert response.status_code == 200
result = response.json()["result"]
print("\nDetected layout elements:")
for res in result["layoutParsingResults"]:
    for ele in res["layoutElements"]:
        print("===============================")
        print("bbox:", ele["bbox"])
        print("label:", ele["label"])
        print("text:", repr(ele["text"]))

这是一个简单的模型服务调用示例,而在实际的 RAG 系统中,我们会进一步优化这种服务调用方式。通常会设计一个独立的类来处理模型调用和结果解析,以实现解耦和模块化。这种封装方式不仅使代码更具可读性和可维护性,也更便于扩展多样化的业务场景。通过这样的架构设计,应用端可以灵活调用服务,适应更复杂的文档解析需求,并在业务逻辑上实现更高的自定义和优化。

总结

通过PaddleX快速发布模型,并构建集成系统,为RAG系统提供一套智能文档识别平台,是一个具有商业潜力的应用模式。这种模式不仅能提高信息处理效率,还能为不同行业提供个性化支持。然而,百度飞桨提供的通用模型可能无法覆盖各行各业的独特需求,因此企业可以利用飞桨平台的训练功能,基于自有数据进行模型微调或重训,以确保模型准确适配特定业务场景,实现更高的识别精度和服务价值。

参考文献:

https://github.com/PaddlePaddle/PaddleX/blob/release/3.0-beta1/README.md
​

如何学习AI大模型?

作为一名热心肠的互联网老兵,我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

一、全套AGI大模型学习路线

AI大模型时代的学习之旅:从基础到前沿,掌握人工智能的核心技能!

img

二、640套AI大模型报告合集

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。

img

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

img

四、AI大模型商业化落地方案

img

作为普通人,入局大模型时代需要持续学习和实践,不断提高自己的技能和认知水平,同时也需要有责任感和伦理意识,为人工智能的健康发展贡献力量。

本地部署Jina AI Reader:用Docker打造你的智能解析引擎 阅读详情

相关推荐

快速打造智能应用:从设计到上线的全流程指南

通过本文的介绍,我们详细解析了从智能体设计到应用部署的全流程。借助阿里云的魔笔低代码平台和丰富的云服务,开发者可以快速构建功能完善的智能应用,大幅降低开发成本并缩短上线周期。未来,随着大模型技术的不断发展,智能应用的功能和性能将进一步提升。我们期待更多开发者加入这一领域,共同探索 AI 应用的无限可能。

领码SPARK - 以无代码之星火,燎原数字之未来! 1117

自己手写了一个大模型RAG项目-06.使用自己的embedding模型

修改里面的Embedding部分,替换成自己本地部署的Embedding模型,并且尝试多模态和单模态两种方式

qq_35054222的博客 1959

AI大模型源码解析|打造你的专属GitHub智能答疑助手!

如官网介绍,PeterCat是专为社区维护者和开发者打造的智能答疑机器人解决方案。支持用户在平台中通过对话模式快速搭建一个 Github 仓库的智能答疑机器人,内置 提 issue、查 issue、回 issue、Discussion 回复、PR Summary、Code Review、项目信息查询 基础能力,也可以通过自托管部署方案和一体化应用 SDK 集成至项目仓库。目前在 PeterCat 平台中,已有 9 个前端方向典型应用的智能答疑机器人。以Ant Design。

double_sweet1的博客 2028

RAG as a Service:开发者必备的新晋神器!

AI大模型作为人工智能领域的重要技术突破,正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口,掌握AI大模型的知识和技能将变得越来越重要。学习AI大模型是一个系统的过程,需要从基础开始,逐步深入到更高级的技术。这里给大家精心整理了一份全面的AI大模型学习资源,包括:AI大模型全套学习路线图(从入门到实战)、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等,资料免费分享!

Androiddddd的博客 708

【机械视觉】Halcon—【二、Halcon算子全面介绍(超详细版)】

Halcon 的算子(operators)按照功能被系统性地划分为多个类别,官方文档中目前(Halcon 22.11 版本)共有 19 个主分类,每个主分类下还有若干子分类。 本人在此对这19个分类的常用核心算子进行了一系列的总结,且本人在文章最后还总结了一些案例经验。 注意: ​​​​​​​跨分类调用:某些算子可能在多个分类中,但官方文档中会明确其主分类。 例如: read_image(文件操作)常被其他分类(如图像处理)的示例调用,但其核心功能是文件读取。

qq_3517289697的博客 3917

多IMU车载GNSS/INS数据集及介绍

文章目录前言非常棒的GINS数据集采集轨迹采集时间MEMS IMU详细信息IMU测量值方程及相关误差建模参考噪声参数安装参数文件格式描述 前言 “本文作者感谢武汉大学多源智能导航实验室和牛小骥教授提供了本文所需的GNSS/INS数据集。” 本博文介绍数据集链接为多IMU车载GNSS、INS数据集,欢迎大家下载,由于是开源数据集,因此下载不需要积分 非常棒的GINS数据集 这是一套非常好的用于GNSS/INS组合导航应用的车载数据集,本数据集采集于湖北省武汉市一处工业园区,为开阔天空场景,GNSS R

十八与她的博客 6441

PaddleOCR-VL镜像实战:构建私有化部署的多语言文档解析MCP服务

本文介绍了如何在星图GPU平台上自动化部署PaddleOCR-VL-WEB镜像,构建支持多语言的私有化文档解析服务。基于该平台,用户可快速搭建OCR能力并接入AI Agent工作流,典型应用于金融、保险等场景中的PDF与图片文件内容提取,实现高效、安全的结构化信息识别。

weixin_42452924的博客 304

20231126-超详细Isaac Gym安装教程(基于双系统版本)

我一开始使用了WSL2虚拟环境试了集群服务器里面的交互式桌面,但是都失败了,WSL2因为没办法调用系统的GPU,应该有办法配置但我放弃了,感兴趣的可以自己探索(图片贴出来了)。服务器上出现的问题是Segmentation fault (core dumped),目前还没解决,有可能是驱动和cuda版本的问题(后面有时间再解决)等上图右边都达到了100%,就创建了一个名为rlgpu的conda环境,然后会出现success。注意安装版本要低于3.9!参考链接:非常详细,大家直接看这个博主的安装就行。

m0_37802038的博客 2万+

一文讲明白所有RAG概念、分类、基本流程、实践、评估和优化等方向

如果你真的想学习大模型,请不要去网上找那些零零碎碎的教程,真的很难学懂!你可以根据我这个学习路线和系统资料,制定一套学习计划,只要你肯花时间沉下心去学习,它们一定能帮到你!

2401_85375186的博客 2036

大模型选型实战:为OpenClaw匹配最优“大脑”的全维度考量

大模型不是越贵越好,也不是参数越高越好,适合自己的使用场景才是最好的。按照我的方法,先明确自己的需求,再选对应的模型,配置多模型自动路由,既能保证体验,又能最大限度降低成本。我自己用这套配置用了半年多,不管是写文章、写代码还是处理复杂问题,都完全够用,成本也很低,大家可以参考一下。如果不知道选什么模型,可以在评论区说一下你的使用场景。

专注于Python爬虫开发,分享爬虫技巧、项目实战与反爬经验,使用Scrapy、BeautifulSoup等工具,解决数据抓取难题。 343

性能优化-高通cDSP(QDSP6)架构详解

高通cDSP开发的商业价值30秒快速认识高通cDSP开发的商业价值【高通cDSP旨在处理一些简单但需要大量计算的场景,如图像处理、科学计算、AI训练、计算机视觉等。这些场景使用CPU来运算会极大的降低CPU的吞吐量,因此利用现代寄存器较宽的特性设计出了适配数据并行的DSP芯片,cDSP就是典型的代表。利用cDSP+CPU既可以满足一般的使用场景,也可以完成现代图像和视频数据的处理。

发狂的小花的博客 5945

AIGC 知识:什么是 RAG? 如何使用 RAG 技术帮助我们制作自己的智能客户服务

本文介绍了什么是 RAG 以及以查找商场停车位为例看如何通过 RAG 使用用户提供的资料来增强 AIGC 的结果。了解 RAG 可以帮助我们使用自己的资料结合 AIGC 实现我们自己的智能客服。

surfirst的博客 2659

【git】git: ‘interpret-trailers’ is not a git command. See ‘git --help’

cents 7.6系统. yum源安装git最新版本是1.8.3 报错: git: 'interpret-trailers' is not a git command. See 'git --help'. cannot insert change-id line in .git/COMMIT_EDITMSG 解决: git add xxx git commit -m "xxx" 然后修改 vim .git/hooks/commit-msg #if test -n "${reviewurl}" ; th

machh的专栏 4758

打造自己的RAG解析大模型:(可商用)智能文档分析解决方案!

经过实际体验,PaddleX 的安装和发布确实比以往的开源项目 PaddleOCR 要简便许多。完成安装后,您不仅获得了 PaddleOCR 的功能,还同时集成了六大模块,包括。

m0_70486148的博客 1182

利用R批量计算相关系数

批量求相关系数

weixin_52073820的博客 1458

药物对接仿真软件:HADDOCK_(3).分子对接基本原理

分子对接(Molecular Docking)是计算化学和结构生物学中的一种重要技术,用于预测小分子(如药物分子)与大分子(如蛋白质)之间的相互作用模式和结合亲和力。这一技术在药物设计和开发中具有广泛的应用,尤其是在寻找和优化潜在的药物候选物方面。本节将详细介绍分子对接的基本原理,包括其理论基础、计算方法和应用。

kkchenjj的博客 1170

大模型落地的关键:如何用 RAG 打造更智能的 AI 搜索——阿里云 AI 搜索开放平台

大模型落地的关键:如何用 RAG 打造更智能的 AI 搜索——阿里云 AI 搜索开放平台

科技很有意思 1296

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

打造自己的RAG解析大模型:金融、财务、保险、证券的AI助理知识库PDF文档解析,只需看这一篇

金融、财务、保险和证券领域的PDF文档解析,是构建AI助理知识库的重要技术环节。这些文档通常包含事件总结、财务报表、年度销售等核心表格数据。通过版面分析、表格识别和文本提取,将文档内容结构化并存储到向量数据库中,为RAG系统提供高质量数据块支持。这些解析数据的使用场景包括:智能投顾系统提供实时数据支持、财务报表的自动化审计、保险理赔的智能核算以及证券分析中的自动数据提取,显著提升工作效率与决策精准度。这种解析能力能够帮助企业快速处理大规模非结构化文档,降低人工操作成本并优化核心业务流程。

m0_59164520的博客 1348

C# WinForm 基于DirectShow.dll编写的程序,可边预览边保存视频,音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择(默认选中第一个)2.可录制wmv和avi两种格式的视频并且都带有音频,avi可以录制的分辨率和帧数进行选择,wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照,也可边录制视频边拍照4.添加了视频和音频的压缩功能(酌情使用)这次二次开发发现C#对DirectShow的相关信息太少,这次做完也不敢藏私共享出来,还望大家指正

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

【LazyLLM × MinerU】你的私人学术特工已上线!PDF拆解黑科技来了,让RAG更懂你的文章!

以上就是基于LazyLLM融合MinerU实现PDF解析与RAG的应用与进阶,让PDF解析从 “机械拆分” 迈向 “智能重构”,更多高级玩法有待探索。(以上代码请参考项目 👉https://github.com/jisyST/LazyRAG-Mineru#)更多信息请移步“LazyLLM”gzh!

SenseCore的博客 1190

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

大模型RAG实战:使用RAG-GPT和Ollama搭建智能客服

本文将介绍通过RAG-GPT和Ollama搭建智能客服。

2301_81888214的博客 2260

【收藏版】LLM+MCP融合RAG与Agent:打造「知行合一」的大模型智能系统

在大模型开发的风口下,很多开发者都会遇到这样的技术痛点:纯RAG系统能依托外部知识库精准回答问题,却没能力执行复杂的多步任务;而单纯的Agent系统虽然能灵活调用各类工具完成操作,却缺乏对领域知识的深度理解和精准挖掘。如何把两者的优势深度融合,打造一个既懂「知识检索」又会「工具执行」的知行合一智能系统?这成为了AI开发的核心探索方向。经过数月的技术攻坚、场景验证和代码打磨,我们基于MCP(Model Context Protocol)协议,设计并实现了一套「工具+知识」双引擎驱动的融合架构。本文会从设计思路

qq_46094651的博客 1802
上一篇: 逆天!!!吴恩达+OpenAI合作出了大模型课程!重磅推出《LLM CookBook》中文版
下一篇: 2024中国智能算力行业白皮书:产业图谱、市场规模等
我爱学大模型
博客等级 码龄3年 7883粉丝 687原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值