私有化部署deepseek+ragflow解析文档速度慢、卡顿、失败的解决方案

本地私有化部署deepseek+ragflow解析文档速度慢、卡顿、失败,严重影响本地私有化部署的进度。我在局域网内的服务器部署,解决方案如下:

服务器硬件配置:
cpu: 12th Gen Intel(R) Core(TM) i7-12700K(20核) 

内存:32G

显卡(GPU): GA104GL [RTX A4000]

我部署的模型是:ollama run deepseek-r1:14b

批量解析文档时,经常解析失败:

网上搜了一圈,照着改了一些参数,修改容器的运行内存为24G,ragflow路径+ragflow/docker/.evn:

MEM_LIMIT=206158430208

重新运行容器

#停止并删除容器,但是不移除与宿主机的挂载
docker-compose -f docker-compose-gpu.yml down

#启动容器
docker-compose -f docker-compose-gpu.yml up -d

解析的成功率高了一些,但是当我第二天再同步一些文档到知识库中时,解析大部分又都失败了。

我重新调整了文档解析器:

DeepDoc和Naive都分别试过,没什么改观

继续调整其他参数,去到数据集列表,把解析失败的每一文档的参数改一下

一些大的pdf,如手册类型的,解析方法改为Manual,块token根据文档大小,512或者1024,自动关键词由8改为4,自动问题由2改为1,如果还是失败,可以摆这两项都设为0,解析很快,而且我提问的时候,也能找对应的文档,但是智能体思考的过程就没有之前那么接近知识库了。

### 如何在本地环境中部署 DeepSeekRAGFlow #### 配置步骤概述 为了实现在本地环境中的高效运行,通常会选择使用 Docker 来简化安装过程。通过容器化技术,可以轻松管理应用程序及其依赖关系,从而减少不同操作系统之间的兼容性问题。 #### 安装依赖项 由于 RAGFlow 依赖于多个第三方服务组件,如 Elasticsearch、MySQL 及 Redis 等数据库管理系统和服务中间件,因此推荐采用 Docker Compose 文件来定义和启动这些关联的服务实例[^3]。 ```yaml version: '3' services: elasticsearch: image: docker.elastic.co/elasticsearch/elasticsearch:7.10.2 ports: - "9200:9200" environment: discovery.type: single-node mysql: image: mysql:8.0 restart: always environment: MYSQL_ROOT_PASSWORD: example redis: image: "redis:alpine" ``` 此配置文件仅作为示例展示部分核心服务;实际应用时需根据官方文档调整版本号及其他参数设置以满足具体项目需求。 #### 实现本地部署 对于想要将 DeepSeek 或者其他大型语言模型部署至本地的情况来说,这样做不仅提供了更为灵活多变的应用场景支持,同时也增强了数据安全性保障措施[^1]。 针对希望利用现有硬件设施完成私有化知识库建设的需求方而言,则可以通过组合 DeepSeek 加上 RAGFlow 的方式达成目标。这种方式特别适用于那些需要全天候稳定运作、频繁访问内部资料或是涉及高度机密信息处理的工作场合[^2]。 #### 常见问题及解决方案 - **Q:** 如果遇到某些特定软件包无法正常下载怎么办? **A:** 尝试更换镜像源地址或者手动指定离线安装包路径来进行修复尝试。 - **Q:** 当面对复杂网络环境下难以获取最新更新的问题时应该怎样操作? **A:** 提前准备好所需的所有资源文件,并按照说明文档指引逐步实施离线模式下的初始化工作流程。 - **Q:** 对于初次使用者来说,最常碰到的技术难题有哪些方面呢? **A:** 主要集中在理解各个模块间相互作用原理以及掌握必要的命令行工具运用技巧这两点之上。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

爱吃萝卜的美羊羊

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值