LLM应用入门系列：RAG与知识库助手实战！

AI_小站

墨衍会员 · AI 创作全网分发码龄3年

关注

原创最新推荐文章于 2026-05-18 09:57:31 发布 877 阅读 AI 写同款· GEO 优化 ›

RAG & LLm大模型构建本地知识库 RAG与LLM的优势如何构建垂域（向量）知识库 文本分块的技巧构建一套完整 RAG 系统的步骤阅读详情

RAG介绍

RAG，即Retrieval-Augmented Generation，检索增强生成。顾名思义，该架构整合了从庞大知识库中检索到的相关信息，并以此作为大语言模型的上下文知识，指导大型语言模型生成更为精准的答案。

RAG架构图如下：

RAG 是一个完整的系统，其工作流程可以简单地分为数据处理、检索、增强和生成四个阶段：

数据处理阶段

对原始数据进行清洗和处理。
将处理后的数据转化为检索模型可以使用的格式。
将处理后的数据存储在对应的数据库中。

检索阶段

将用户的问题输入到检索系统中，从数据库中检索相关信息。

增强阶段

对检索到的信息进行处理和增强，以便生成模型可以更好地理解和使用。

生成阶段

将增强后的信息输入到生成模型中，生成模型根据这些信息生成答案。

知识库助手实战

这里我们以langchain库为例，进行个人知识库助手搭建。

首先需要进行本地大模型的部署，具体可以参见之前的大模型本地部署教程：手把手本地部署DeepSeek系列（一），例子中部署的是qwen2.5:14b模型。
知识库助手代码：

# 导入必要的库和模块
from langchain_community.document_loaders import PyMuPDFLoader  # 用于从PDF文件中加载文档内容
from langchain.text_splitter import RecursiveCharacterTextSplitter  # 用于将长文本分割成较小的块
from langchain_community.embeddings import HuggingFaceEmbeddings  # 用于生成文本的嵌入向量
from langchain_community.vectorstores import Chroma  # 用于创建和管理向量数据库
from langchain.prompts import PromptTemplate  # 用于定义提示模板
from langchain.chains import RetrievalQA  # 用于构建检索增强生成（RAG）链
from langchain_community.chat_models import ChatOllama  # 用于与Ollama聊天模型交互
from dotenv import load_dotenv, find_dotenv  # 用于加载环境变量
# 加载环境变量文件（.env），以便从文件中读取配置信息
_ = load_dotenv(find_dotenv())
# 定义向量数据库的存储路径
persist_directory = './vector_db_chroma'
# 定义嵌入模型的路径，这里使用的是多语言MiniLM模型
emb_model = "./paraphrase-multilingual-MiniLM-L12-v2"
# 初始化嵌入模型，用于将文本转换为向量表示
embedding = HuggingFaceEmbeddings(model_name=emb_model)
# 定义创建向量数据库的函数
def create_db(pdf_path):
# 初始化PDF加载器，加载指定的PDF文件
loader = PyMuPDFLoader(pdf_path)
# 加载PDF文件的所有页面内容
pdf_pages = loader.load()
# 初始化文本分割器，将长文本分割成小块
text_splitter = RecursiveCharacterTextSplitter(
chunk_size=500,  # 每块文本的最大长度为500个字符
chunk_overlap=50  # 相邻文本块之间有50个字符的重叠
)
# 将PDF页面内容分割成较小的文本块
split_docs = text_splitter.split_documents(pdf_pages)
# 使用Chroma创建向量数据库，将分割后的文档转换为向量并存储
vectordb = Chroma.from_documents(
documents=split_docs[:],  # 传入所有分割后的文档
embedding=embedding,  # 使用指定的嵌入模型
persist_directory=persist_directory  # 指定向量数据库的存储路径
)
# 将向量数据库持久化到磁盘
vectordb.persist()
# 定义RAG（检索增强生成）函数，用于回答用户的问题
def rag(question):
# 从指定路径加载已持久化的向量数据库
vectordb = Chroma(persist_directory=persist_directory, embedding_function=embedding)
# 根据问题进行相似性搜索，获取与问题最相关的两个文档块
sim_docs = vectordb.similarity_search(question, k=2)
# 定义提示模板，用于指导模型如何根据上下文回答问题
template = """使用以下上下文来回答最后的问题。如果你不知道答案，就说你不知道，不要试图编造答案。尽量使答案简明扼要。
{context}
问题: {question}
答案:
"""
# 初始化Ollama聊天模型，指定模型服务地址、模型名称和温度参数
llm = ChatOllama(base_url="http://大模型服务器的IP:端口号", model="qwen2.5:14b", temperature=0.1)
# 创建提示模板对象，定义输入变量和模板内容
QA_CHAIN_PROMPT = PromptTemplate(input_variables=["context","question"], template=template)
# 初始化RAG链，结合检索器、语言模型和提示模板
qa_chain = RetrievalQA.from_chain_type(
llm,  # 使用指定的Ollama模型
retriever=vectordb.as_retriever(),  # 使用向量数据库作为检索器
return_source_documents=True,  # 返回检索到的源文档
chain_type_kwargs={"prompt": QA_CHAIN_PROMPT}  # 传入提示模板
)
# 执行RAG链，传入用户的问题并获取回答
result = qa_chain({"query": question})
# 打印问题和对应的回答
print(f"\n==============\nQ: {question}\nA: {result['result']}")
# 主程序入口
if __name__ == '__main__':
# create_db("员工指南.pdf")  # 取消注释以创建向量数据库，传入员工指南PDF文件
rag("公司的使命和愿景")  # 调用RAG函数，查询公司的使命和愿景

想入门 AI 大模型却找不到清晰方向？备考大厂 AI 岗还在四处搜集零散资料？别再浪费时间啦！2025 年 AI 大模型全套学习资料已整理完毕，从学习路线到面试真题，从工具教程到行业报告，一站式覆盖你的所有需求，现在全部免费分享！

👇👇扫码免费领取全部内容👇👇