ragflow之初体验

最新推荐文章于 2025-05-12 23:59:10 发布
最新推荐文章于 2025-05-12 23:59:10 发布
阅读量6.4k 收藏 36
点赞数 20
CC 4.0 BY-SA版权
文章标签： 语言模型 云计算
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/smartvap_2012/article/details/142858507

        随着国内大语言模型（LLM）的应用日益广泛，构建面向企业私有数据的模型已成为一个重要研究方向。基于检索增强生成（RAG）的知识库与大语言模型的混合编排，为这一过程提供了强大的加速器，使得私有化部署更加高效和便捷。

        ragflow 是RAG领域中较为理想的开源解决方案，在企业私有数据集成管理和知识库构建方面展现出显著优势，其灵活的架构设计和高效的知识库构建能力，使得数据检索和信息生成更加精准和高效。

        本文将分享ragflow的部署方法和使用心得，欢迎各位批评指正。

1 环境准备

类型

版本

GPU

Tesla V100S / 32G x 8

CPU

Intel(R) Xeon(R) Gold 5218 / 64c

内存

376G

硬盘

SATA 4T

OS

CentOS7

体系结构

x64

CUDA

11.4

公网访问

代理

        由于ragflow依赖的docker版本至少为24.0.9，而现有的GPU主机上还运行了其他低版本的docker容器，为了不影响这些存量应用容器，我们考虑二进制堆叠搭建一个新的docker运行环境，目标运行环境各组件的版本如下：

组件名称

版本

runc

1.1.12

docker-proxy

24.0.9

docker-init

0.19.0

dockerd

24.0.9

docker

24.0.9

ctr

1.7.13

containerd-shim-runc-v2

1.7.13

containerd

1.7.13

docker-compose

2.26.1

        【注意】docker运行环境、docker-compose的二进制版本从此处下载：https://download.docker.com/linux/static/stable/x86_64/、https://github.com/docker/compose/releases?expanded=true&page=2&q=

1.1 containerd环境构建

1.1.1 containerd配置文件

        将docker二进制文件解压至/data/labs/runtimes/docker-24/目录下，生成一个默认配置文件，并在此基础上修改。

./containerd config default > containerd-config.toml

【注意】文件完整内容如下，所有路径应考虑显式设置，尽量避免使用默认值，以防与已有docker运行环境产生冲突！

>>> containerd-config.toml <<<

disabled_plugins = []

imports = []

oom_score = 0

plugin_dir = "/data/labs/runtimes/docker-24/containerd-plugin"

required_plugins = []

root = "/data/labs/runtimes/docker-24/containerd-root"

state = "/data/labs/runtimes/docker-24/containerd-state"

temp = "/data/labs/runtimes/docker-24/containerd-temp"

version = 2

[cgroup]

  path = "/data/labs/runtimes/docker-24/sys-fs-cgroup/containerd"

[debug]

  address = "/data/labs/runtimes/docker-24/containerd-debug.sock"

  format = ""

  gid = 0

  level = ""

  uid = 0

[grpc]

  address = "/data/labs/runtimes/docker-24/containerd-grpc.sock"

  gid = 0

  max_recv_message_size = 16777216

  max_send_message_size = 16777216

  tcp_address = "127.0.0.1:2375"

  tcp_tls_ca = "/data/labs/runtimes/docker-24/ca.crt"

  tcp_tls_cert = "/data/labs/runtimes/docker-24/tls.crt"

  tcp_tls_key = "/data/labs/runtimes/docker-24/tls.key"

  uid = 0

[metrics]

  address = "127.0.0.1:1338"

  grpc_histogram = false

[plugins]

最低0.47元/天 解锁文章
老鸟学AI
关注
RAGFlow:安装与体验
xzq_qzx_的博客
04-28 1万+
这里囫囵吐糟的review了下相关代码，可以看到RAGFlow在工程方面做了较多的工作，和微调的模型结合产生了良好的化学反应，通过一些工程的优化解决模型的badcase，最终做出了体验较好的产品，这是RAG文档解析的光明大道。
RagFlow本地部署使用
qq_43548590的博客
10-29 3万+
开源RAGFlow引擎：打造无幻觉、高精度的文档理解与生成体验RAGflow，这个新兴的开源RAG（Retrieval-Augmented Generation）引擎，正以其独特的深度文档理解能力，为大型语言模型的应用带来了革命性的变革。在处理PDF文件时，我们经常面临提取干净数据的挑战，而RAGFlow的出现，恰恰解决了这一问题，它能够提供准确无误且无幻觉的生成结果。
快速搭建专业AI知识库的开源工具:Ragflow
m0_59163425的博客
02-04 2262
在大模型应用的蓬勃发展中，检索增强生成（Retrieval-Augmented Generation，RAG）技术占据了举足轻重的地位。它就像是大模型的智慧助手，通过从外部知识库中检索相关信息，并将其融入到大模型的回答生成过程中，有效提升了大模型回答的准确性、可靠性和时效性，在问答系统、智能客服、文档摘要等多个领域都发挥着关键作用。上图是一个常见的AI应用的数据流向图，文档分块之后向量化存储到向量数据库，然后输入文本内容，形成prompt，从向量数据库检索相关的知识背景，发送给LLM之后，返回结果。
RAGFlow搭建全攻略：从入门到精通，轻松构建RAG知识库
m0_63171455的博客
04-27 4739
RAGFlow是一种融合了数据检索与生成式模型的新型系统架构，其核心思想在于将大规模检索系统与先进的生成式模型（如Transformer、GPT系列）相结合，从而在回答查询时既能利用海量数据的知识库，又能生成符合上下文语义的自然语言回复。该系统主要包含两个关键模块：数据检索模块和生成模块。数据检索模块负责在海量数据中快速定位相关信息，而生成模块则基于检索结果生成高质量的回答或文本内容。
[译] RAGFlow 使用说明
热门推荐
AI工程化、开源分享、文档翻译、代码笔记
08-28 3万+
快速启动 一、先决条件 二、启动服务器 1、确保 `vm.max_map_count` ≥ 262144: 2、克隆存储库： 3、构建预构建的Docker映像并启动服务器： 三、配置LLM 四、创建您的第一个知识库 五、文件解析 六、设置一个AI聊天 配置知识库 一、创建知识库 二、配置知识库 1、选择块方法 2、选择嵌入模型 3、上传文件 4、解析文件 5、干预文件解析结果 6、运行检索测试 三、搜索知识库 四、删除知识库 开始AI聊天 一、开始一个AI聊天 二、更新现有对话的设置 三、将聊天功能集成到您
RAGFlow: 一个完整的RAG使用解决方案
AAI666666的博客
11-28 4361
RAGFlow 是一款基于深度文档理解构建的开源 RAG（Retrieval-Augmented Generation）引擎。RAGFlow 可以为各种规模的企业及个人提供一套精简的 RAG 工作流程，结合大语言模型（LLM）针对用户各类不同的复杂格式数据提供可靠的问答以及有理有据的引用。
RAGFlow 初步尝试 (01)
waterHBO的博客
05-12 511
docker 还是不熟练。有些文件，需要先读一下。问AI， 更慢。因为我的上下文太少。
ollama ragflow
03-01
考虑到实际应用场景中的多样性需求，在设计之初就应考虑加入多媒体类型的支持能力——不仅限于纯文字资料，还包括但不限于图片、音频乃至视频资源。这一步骤通常涉及额外的编码层用来解析非结构性媒体对象，并提取...
ragflow 102报错
03-24
为了减少由模糊查询引发的回答偏差现象，在设计 RAG 流程之初就应该注重输入文档集的选择标准以及索引方式的设计合理性。具体措施包括但不限于以下几个方面： - 增加高质量语料的比例； - 对原始资料进行清洗过滤以...
dify和ragflow对比
03-18
另一方面，RAGFlow 设计之初就考虑到了模块化的可替换性和开放标准的支持，使得研究人员能够轻松实验不同的编码器、解码器以及索引方法[^5]。 #### 3. **监控与维护** 正如提到过的 LLMOps 实践所强调的内容那样，...
RAGFlow部署与使用（开源本地知识库管理系统，包括kibana配置）
weixin_59534602的博客
03-17 3634
给大家介绍RAGFlow的部署与使用。RAGFlow是一款基于深度文档理解构建的开源RAG的知识库管理平台。
RAGFlow: 一个完整的RAG使用解决方案(附教程)
2301_81888214的博客
03-25 2343
RAGFlow 是一款基于深度文档理解构建的开源 RAG（Retrieval-Augmented Generation）引擎。RAGFlow 可以为各种规模的企业及个人提供一套精简的 RAG 工作流程，结合大语言模型（LLM）针对用户各类不同的复杂格式数据提供可靠的问答以及有理有据的引用。
这款超实用的 AI 知识库问答系统：MaxKB
DEVELOPERAA的博客
11-27 1585
如果你一直在寻找一种简单易用的方式来为自己的网站或业务系统增添 AI 助手，那么 MaxKB 绝对是你的最佳选择。
RAGFlow: 一个完整的RAG使用解决方案（附教程）
瓦罗兰特顶级C位的博客
03-12 2722
RAGFlow 是一款基于深度文档理解构建的开源 RAG（Retrieval-Augmented Generation）引擎。RAGFlow 可以为各种规模的企业及个人提供一套精简的 RAG 工作流程，结合大语言模型（LLM）针对用户各类不同的复杂格式数据提供可靠的问答以及有理有据的引用。
一文读懂RAGFlow：从 0 到 1教你搭建RAG知识库
python12345_的博客
02-26 6778
RAGFlow是一种融合了数据检索与生成式模型的新型系统架构，其核心思想在于将大规模检索系统与先进的生成式模型（如Transformer、GPT系列）相结合，从而在回答查询时既能利用海量数据的知识库，又能生成符合上下文语义的自然语言回复。该系统主要包含两个关键模块：数据检索模块和生成模块。数据检索模块负责在海量数据中快速定位相关信息，而生成模块则基于检索结果生成高质量的回答或文本内容。
在 RAGFlow 中实践 GraphRAG
datageek的博客
08-07 6066
RAGFlow 0.9 版本发布，正式引入了对 GraphRAG 的支持。
RAGFlow在Windows中运行
2301_77816793的博客
11-26 5602
ollama可以使我们本地部署大语言模型，无法加入自己的专有知识库，此时我们就需要借助RAGFlow，以实现构建自己的本地知识库大语言模型，还可以进一步打包制成API，构成具有行业专业知识的大语言模型。然而，在Ragflow的官方指导文档中，适用的为Lunix系统，笔者在数小时尝试后，详细总结了这样文档以告诉读者Ragflow如何在Windows系统上运行，注意：本电脑之前运行过虚拟机，因此可能缺少“虚拟机”的一些前置步骤，当安装过程出现问题可往这方面解决。
【RAGFlow】Ubuntu系统下实现源码启动RAGFlow
kewaqi618的博客
07-15 9980
RAGFlow 可以为各种规模的企业及个人提供一套精简的 RAG 工作流程，结合大语言模型（LLM）针对用户各类不同的复杂格式数据提供可靠的问答以及有理有据的引用。因为官方提供了快速搭建平台使用docker容器技术，但我们不想使用docker容器搭建，所以就尝试直接在Ubuntu系统环境下直接启动源码的方式实现。
【RAGFlow】windows本地pycharm运行
HelloQ的博客
03-11 1040
本地运行ragflow
ragflow
最新发布
06-02
### RAGFlow Framework or Library in IT Context RAGFlow 是一种基于检索增强生成（Retrieval-Augmented Generation, RAG）理念的框架或工作流，旨在通过结合信息检索和生成模型来提升自然语言处理任务的效果。以下是关于 RAGFlow 的详细解析及其相关技术资料： #### 1. RAGFlow 的核心概念 RAGFlow 的设计目标是将传统的检索系统与现代生成式模型相结合，从而在生成过程中引入外部知识[^1]。这种结合能够显著提高生成内容的相关性和准确性。具体来说，RAGFlow 包含以下关键组件： - **检索模块**：负责从大规模文档集合中提取与用户查询最相关的片段。 - **生成模块**：利用检索到的信息作为上下文，生成高质量的回答或文本。 #### 2. RAGFlow 的实现方式 RAGFlow 的实现通常依赖于深度学习框架和开源工具库。例如，LangChain 提供了完整的 RAG 实现示例，其中包括： - 数据索引：使用向量数据库（如 FAISS 或 Pinecone）存储文档嵌入。 - 查询处理：将用户输入转化为嵌入向量，并检索最相似的文档片段。 - 文本生成：结合检索结果和预训练语言模型（如 GPT 或 BERT）生成最终输出。 #### 3. 相关技术栈 除了 LangChain，还有其他工具和技术可以支持 RAGFlow 的开发[^2]： - **Data Processing Libraries**: 工具如 `data-juicer` 和 `MinerU` 可以帮助清洗和准备数据集。 - **Document Parsing Tools**: 如 `PDF-Extract-Kit` 和 `Docling`，用于高效解析非结构化文档。 - **LLM Integration**: 利用 AutoGen 等框架实现多代理协作和 RAG 功能[^3]。 #### 4. 示例代码 以下是一个简单的 RAGFlow 实现示例，使用 Python 和 Hugging Face Transformers 库： ```python from transformers import pipeline # 初始化检索和生成模型 retriever = pipeline("feature-extraction") generator = pipeline("text-generation") def rag_flow(query, documents): # 检索相关文档 embeddings = retriever([query] + documents) scores = [sum(a * b for a, b in zip(embeddings[0], e)) for e in embeddings[1:]] top_doc = documents[scores.index(max(scores))] # 生成回答 context = f"Context: {top_doc}\nQuestion: {query}" answer = generator(context, max_length=100)[0]["generated_text"] return answer # 示例运行 documents = ["The capital of France is Paris.", "Germany is known for its engineering."] print(rag_flow("What is the capital of France?", documents)) ``` #### 5. RAGFlow 的优势与挑战 - **优势**：通过引入外部知识，RAGFlow 能够生成更加准确和多样化的文本。 - **挑战**：需要高效的检索系统和高质量的数据源，同时对计算资源要求较高。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值