DeepSeek R1与Qwen大模型，构建Agentic RAG全攻略

最新推荐文章于 2025-09-28 18:03:06 发布

原创

最新推荐文章于 2025-09-28 18:03:06 发布 · 1.1k 阅读

19 ·

CC 4.0 BY-SA版权

文章标签：

#人工智能 #自然语言处理 #大语言模型

大家好，DeepSeek-R1作为一款极具变革意义的开源推理大语言模型（LLM），大家讨论最多的是它的基础能力，却鲜有人关注其在智能体工作流程中的巨大潜力，也就是多个模型动态协作的应用场景。

本文将介绍如何搭建一个智能体检索增强生成（RAG，Retrieval-Augmented Generation）系统。这个系统整合了DeepSeek-R1（70亿参数蒸馏版）、阿里云Qwen2.5（70亿参数）和轻量级智能体框架。DeepSeek-R1用于复杂推理，是系统的 “智慧大脑”；阿里云Qwen2.5主打快速对话交互，让用户交流体验更流畅；轻量级智能体框架协调前两者，保障系统高效运转。完成搭建后，Qwen 会处理常规交互，复杂查询则交给R1。

1.设置环境

1.1 设置虚拟环境并安装依赖项

python3 -m venv .envs/agentic-ai
source .envs/agentic-ai/bin/activate
mkdir agentic-ai 
cd agentic-ai

pip install langchain langchain-huggingface langchain-community pypdf langchain_chroma
pip install chromadb smolagents python-dotenv gradio sentence-transformers
pip 'install smolagents[openai]'

1.2 配置Ollama

DeepSeek的第一代推理模型性能可与OpenAI-o1媲美，其中包括基于Llama和Qwen从DeepSeek-R1蒸馏得到的6个密集模型。

Qwen 2.5模型在阿里巴巴最新的大规模数据集上进行预训练，该数据集包含多达18万亿个标记。该模型支持多达12.8万个标记，并具备多语言能力。

下载模型：

ollama pull deepseek-r1:7b  
ollama pull qwen2.5:7b-instruct

Ollama默认的2048个标记不够用，创建自定义模型文件deepseek-r1-7b-8k.Modelfile和qwen2.5-7b-instruct-8k.Modelfile：

$ cat deepseek-r1-7b-8k.Modelfile 
FROM deepseek-r1:7b 
PARAMETER num_ctx 8192

$ cat qwen2.5-7b-instruct-8k.Modelfile
FROM qwen2.5:7b-instruct  
PARAMETER num_ctx 8192

ollama create deepseek-r1-7b-8k -f ./deepseek-r1-7b-8k.Modelfile
ollama create qwen2.5:7b-instruct-8k -f ./qwen2.5-7b-instruct-8k.Modelfile

2.创建知识库

2.1 添加文档

将PDF文件放在data/目录下，这些文件将构成知识库的基础。使用LangChain的DirectoryLoader加载PDF文件，并使用RecursiveCharacterTextSplitter将其拆分为较小的块，以便进行高效的索引和检索。这样能确保内容以结构化方式处理，更便于查询和管理。

from langchain_community.document_loaders import DirectoryLoader, PyPDFLoader
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain_huggingface import Hu