手把手教你用LangChain构建RAG系统，解决大模型幻觉问题（建议收藏）

用LangChain构建RAG系统解决大模型幻觉

原创于 2025-09-09 13:57:40 发布 · 650 阅读

20 ·

CC 4.0 BY-SA版权

文章标签：

#langchain #人工智能 #LLM #大模型 #AI #RAG

文章介绍了使用LangChain框架结合向量数据库构建RAG系统的方法，解决大模型幻觉问题。内容包括环境配置、文档处理、向量化存储、大模型接入和问答链构建。通过检索外部知识库并提供给模型，可提升回答准确性和可靠性，增强可解释性。

一、引言

在大模型（LLM）应用中，如何让模型准确回答领域知识问题是一个关键挑战。直接依赖预训练模型往往会遇到幻觉（hallucination），因为模型可能“编造”不存在的事实。为了解决这一问题，业界提出了 RAG（Retrieval-Augmented Generation，检索增强生成）方法：通过检索外部知识库，将相关信息提供给模型，从而提升回答的准确性。

LangChain由Chains、Agents、Memory、Tools四个核心组件组成的框架，支持复杂任务分解和多模型协作，内置多种 Memory 管理模式，方便多轮对话，与知识库、搜索引擎等工具集成方便。

本文将带大家用 LangChain 框架，结合向量数据库，构建一个简易的 RAG 系统，并完成一个端到端的问答任务。

二、环境配置

首先需要安装必要的依赖，包括 langchain、faiss 以及大模型 API 相关的依赖。

# 安装必要的依赖包
!pip install langchain faiss-cpu openai tiktoken

这一步主要是为后续的文档切分、向量化存储以及调用大模型接口做准备。

三、加载与处理文档

我们需要先准备一个知识库，通常是一些本地的文本或 PDF 文件。LangChain 提供了丰富的文档加载器和文本切分工具。

from langchain.text_splitter import CharacterTextSplitter
from langchain.document_loaders import TextLoader

# 加载本地文本文件
loader = TextLoader("data/knowledge.txt", encoding="utf-8")
documents = loader.load()

# 使用字符切分器将文档分块，避免太长影响向量化效果
text_splitter = CharacterTextSplitter(chunk_size=500, chunk_overlap=50)
docs = text_splitter.split_documents(documents)

print(f"文档总块数: {len(docs)}")

这里的逻辑是：先加载 → 再切分。切分后的文档会作为知识库的基本单元。

四、向量数据库构建

RAG 的核心在于“检索”，因此我们需要把切分后的文档存入向量数据库（FAISS），以便后续通过相似度检索找到相关内容。

from langchain.embeddings.openai import OpenAIEmbeddings
from langchain.vectorstores import FAISS

# 使用 OpenAI Embeddings 将文档转为向量
embedding_model = OpenAIEmbeddings()

# 构建向量数据库
db = FAISS.from_documents(docs, embedding_model)

# 保存数据库到本地，方便下次直接加载
db.save_local("faiss_index")

这样，我们就得到了一个可检索的知识库，可以随时调用。

五、大模型接入

在 LangChain 中，我们可以很方便地接入大语言模型（如 OpenAI GPT）。

from langchain.chat_models import ChatOpenAI

# 初始化大语言模型
llm = ChatOpenAI(model_name="gpt-3.5-turbo", temperature=0)

这里的 temperature=0 表示模型尽量给出确定性答案，减少随机性。

六、构建 RAG 问答链

现在我们将检索模块和大模型结合，形成一个检索增强问答链。

from langchain.chains import RetrievalQA

# 将数据库作为检索器
retriever = db.as_retriever(search_kwargs={"k": 3})

# 构建 RAG 问答链
qa = RetrievalQA.from_chain_type(
    llm=llm,
    retriever=retriever,
    return_source_documents=True
)

# 示例提问
query = "请介绍一下本文档中的核心方法是什么？"
result = qa({"query": query})

print("问题:", query)
print("回答:", result["result"])
print("引用文档:", result["source_documents"])

这一部分就是 RAG 的核心：先检索，再回答。模型不仅能给出答案，还能返回引用的文档片段，增强可解释性。

七、问答效果展示

我们可以进一步测试不同问题，观察 RAG 与普通 LLM 回答的区别。

# 提问 1
query1 = "该方法在应用中解决了什么问题？"
print("问题1:", query1)
print("回答1:", qa({"query": query1})["result"])

# 提问 2
query2 = "能否总结一下文档的主要内容？"
print("问题2:", query2)
print("回答2:", qa({"query": query2})["result"])

通过多轮问答，可以验证系统是否真正利用了外部知识库，而不是单纯依赖大模型的“想象力”。