基于RAG本地知识库的AI问答，大模型入门到精通，收藏这篇就足够了！

关注

原创最新推荐文章于 2026-06-15 15:16:42 发布 1k 阅读 AI 写同款· GEO 优化 ›

常微分方程 (ODE) 和随机微分方程 (SDE) 常微分方程（Ordinary Differential Equations, ODE）和随机微分方程（Stochastic Differential Equations, SDE）是数学中描述系统动态行为的重要工具。它们有一些相似之处，但在处理随机性方面存在显著差异。阅读详情

RAG概念

RAG（Retrieval-Augmented Generation，检索增强生成）是一种结合信息检索与文本生成的技术，旨在提升大语言模型（LLM）生成内容的准确性和时效性。其核心思想是通过外部知识库动态补充生成所需的信息，从而弥补传统LLM仅依赖训练数据、可能产生“幻觉”或过时回答的缺陷。

简单来说，RA؜G 就像给 AI 配了一个‎知识库，让 AI 回答问题前先查一查特定的知识‍库来获取知识，确保回答是基⁠于真实资料而不是凭空想象。

通过 RAG 技术改造后，AI 就能：

准确回答关于特定内容的问题。
在合适的时机推荐相关课程和服务。
用特定的语气和用户交流。
提供更新、更准确的建议。

Spring AI 为我们实现RAG提供了全流程的支持，接下来就用 Spring AI 实现一个基于本地知识库的 AI 问答。

准备环境

开发工具：IDEA

构建工具：Gradle

开发环境：JDK21（17+即可）

技术框架：SpringBoot3.3.0 + Spring AI Alibaba 1.0.0-M6.1

引入Gradle依赖

这里我只引入核心依赖，其他的SpringBoot等基础依赖就不做展示了。

implementation 'com.alibaba.cloud.ai:spring-ai-alibaba-starter:1.0.0-M6.1'
implementation 'org.springframework.ai:spring-ai-markdown-document-reader:1.0.0-M6'

准备知识库文档

文档可以是Text、PDF或Markdown文件等，这里我们就以Markdown文件为例。

将文档放在resources的document目录里下：

文档读取

对自己准备好的知识库文档进行处理，然后保存到向量数据库中。这个过程俗称 ETL（抽取、转换、加载），Spring AI 提供了对 ETL 的支持。

ETL 的 3 大核心组件，按照顺序执行：

DocumentReader：读取文档，得到文档列表。
DocumentTransformer：转换文档，得到处理后的文档列表。
DocumentWriter：将文档列表保存到存储中（可以是向量数据库，也可以是其他存储）

通过 DocumentLoader 文‎档加载配置指定读取文档的细节，比如是否读取代码块、引用块等。还指定了额外的元信息配置‍，提取文档的文件名（fileName）作为文档的元信息⁠，可以便于后续知识库实现更精确的检索。

@Component
@Slf4j
public class DocumentLoader {
private final ResourcePatternResolver resourcePatternResolver;
public DocumentLoader(ResourcePatternResolver resourcePatternResolver) {
this.resourcePatternResolver = resourcePatternResolver;
}
/**
* 加载多篇Markdown文档
* @param
* @return java.util.List<org.springframework.ai.document.Document>
*/
public List<Document> loadMarkDownList() {
List<Document> documentList = new ArrayList<>();
// 加载Markdown文档列表
try {
Resource[] markDownList = resourcePatternResolver.getResources("classpath*:document/*.md");
for (Resource markDown : markDownList) {
String filename = markDown.getFilename();
// 加载markdown文档构造器
MarkdownDocumentReaderConfig documentReaderConfig = MarkdownDocumentReaderConfig.builder()
// 有分隔符就创建新文档
.withHorizontalRuleCreateDocument(true)
// 是否包含代码块
.withIncludeCodeBlock(true)
// 是否包含引用格式
.withIncludeBlockquote(true)
// 添加额外信息
.withAdditionalMetadata("filename", filename)
.build();
MarkdownDocumentReader markdownDocumentReader = new MarkdownDocumentReader(markDown, documentReaderConfig);
documentList.addAll(markdownDocumentReader.read());
}
} catch (IOException e) {
BizException.of("加载Markdown文档列表失败:", e);
}
return documentList;
}
}

向量转换和存储

为了实现方便؜，我们使用 Spri‎ng AI 内置的、基于内存读写的向量数据库‍ SimpleVect⁠orStore 来保存文档。

SimpleVe؜ctorStore 实现了 Ve‎ctorStore 接口，而 VectorStore 接口集成了‍ DocumentWriter，⁠所以具备文档写入能力。

实现初始化向量数据库并且保存文档的方法。代码如下：

@Configuration
public class VectorStoreConfig {
@Resource
private DocumentLoader documentLoader;
@Bean
VectorStore vectorStore(EmbeddingModel dashscopeEmbeddingModel) {
SimpleVectorStore simpleVectorStore = SimpleVectorStore.builder(dashscopeEmbeddingModel)
.build();
// 加载文档
List<Document> documentList = documentLoader.loadMarkDownList();
simpleVectorStore.add(documentList);
return simpleVectorStore;
}
}

查询增强

Spring AI 通过؜ Advisor 特性提供了开箱即用的 RAG 功‎能。主要是 QuestionAnswerAdvisor 问答拦截器和RetrievalAug‍mentationAdvisor 检索增强拦截器⁠。

查询增强的原理：向量数据库存储着 AI 模型本身不知道的数据，当用户问题‎发送给 AI 模型时，QuestionAnswerAdvisor 会查询向量数据库，获取与用户问题相关的文档‍。然后从向量数据库返回的响应会被附加到用户文本中，为 ⁠AI 模型提供上下文，帮助其生成回答。

@Slf4j
@Component
public class CodeAssistantApp {
private final ChatClient chatClient;
/**
* 系统提示词
*/
private static final String SYSTEM_PROMPT = "扮演资深的软件开发专家。开场向用户表明身份，告知用户可以提出难以解决的编程问题。\" +\n" +
"            \"引导用户详述问题需求，以便给出专属解决方案。";
/**
* 初始化ChatClient
* @param chatModel
*/
public CodeAssistantApp(ChatModel chatModel) {
ChatMemory chatMemory = new InMemoryChatMemory();
chatClient = ChatClient.builder(chatModel)
.defaultSystem(SYSTEM_PROMPT)
// 拦截器
.defaultAdvisors(
new MessageChatMemoryAdvisor(chatMemory),
// 自定义拦截器，按需开启
new CustomLoggerAdvisor()
// 自定义重读拦截器，增强推理能力，增加成本，按需开启
//new ReReadingAdvisor()
)
.build();
}
/**
* 基础对话（支持多轮对话记忆）
* @param message
* @param chatId
* @return java.lang.String
*/
public String doChat(String message, String chatId) {
ChatResponse response = chatClient
.prompt()
.user(message)
// 将当前对话的 ID（chatId）传入，AI 客户端会根据这个 ID 去查找该对话的历史记录
.advisors(spec -> spec.param(CHAT_MEMORY_CONVERSATION_ID_KEY, chatId)
// 表示最多获取最近的 10 条历史消息作为上下文，供 AI 在生成回复时参考
.param(CHAT_MEMORY_RETRIEVE_SIZE_KEY, 10))
.call()
.chatResponse();
String content = "";
if (Objects.nonNull(response)) {
content = response.getResult().getOutput().getText();
}
log.info("content: {}", content);
return content;
}
}

与RAG知识库对话方法

/**
* RAG 知识库 对话
* @param message
* @param chatId
* @return java.lang.String
*/
public String doChatWithRag(String message, String chatId) {
ChatResponse chatResponse = chatClient
.prompt()
.user(message)
.advisors(spec -> spec.param(CHAT_MEMORY_CONVERSATION_ID_KEY, chatId)
.param(CHAT_MEMORY_RETRIEVE_SIZE_KEY, 10))
// 开启日志
.advisors(new CustomLoggerAdvisor())
// 应用知识库问答
.advisors(new QuestionAnswerAdvisor(vectorStore))
.call()
.chatResponse();
String content = chatResponse.getResult().getOutput().getText();
log.info("content: {}", content);
return content;
}

单元测试

故意提问一个文档内有回答的问题。

文档部分内容：

@Test
void doChatWithRag() {
String chatId = UUID.randomUUID().toString();
String message = "进程和线程的区别";
String answer =  codeAssistantApp.doChatWithRag(message, chatId);
Assertions.assertNotNull(answer);
}

输出结果：