大模型系列——使用 Embedding 模型和向量数据库的 Spring AI RAG

于 2025-06-14 23:03:36 发布
阅读量53 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： 大模型 文章标签： embedding 数据库 spring 人工智能 大模型
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/2401_84052244/article/details/148659949

大模型系列——使用 Embedding 模型和向量数据库的 Spring AI RAG

本文主要介绍以下内容：

  • 嵌入式模型简介。
  • 使用 DocumentReader 加载数据。
  • 在 VectorStore 中存储 Embedding。
  • 实现 RAG（Retrieval-Augmented Generation，检索增强生成），又名 Prompt Stuffing。

你可以在 GitHub 中找到本文的示例代码

大型语言模型（LLM），如 OpenAI、Azure Open AI、Google Vertex 等，都是在大型数据集上训练出来的。但这些模型并不是在你的私人数据上训练出来的，因此它们可能无法回答你所在领域的特定问题。但是，在你的私人数据上训练模型可能既昂贵又耗时。那么，我们该如何使用这些 LLM 来回答我们领域的特定问题呢？

其中一种方法是使用 RAG（Retrieval-Augmented Generation，检索增强生成），又称 Prompt Stuffing（提示填充）。使用 RAG，从数据存储中检索相关文档，并将其传递给 LLM 以生成答案。在这一过程中，使用嵌入模型将文档转换为 Embedding

了解本专栏 订阅专栏 解锁全文 超级会员免费看
大模型——使用 Embedding 模型和向量数据库的 Spring AI RAG
03-06 3472
本文介绍了如何使用 Embedding API 将文本或文档转换为Embedding，以及如何使用向量数据库来存储和检索Embedding信息。最后，还实现了 RAG（检索增强生成），通过检索到的信息来使用 AI 模型回答问题。
大模型系列——使用 Redis 和 Spring AI 创建 RAG（检索增强生成）应用
最新发布
2401_84052244的博客
06-14 200
本文介绍了如何使用Redis和Spring AI构建检索增强生成（RAG）应用。RAG技术通过结合向量数据库和大型语言模型（LLM），为查询提供上下文信息，避免LLM幻觉问题。主要内容包括： RAG架构概述：通过ETL流程将知识库文档分割、矢量化并存储到Redis向量数据库，增强LLM提示的准确性。 实现步骤： 准备OpenAI API密钥和Redis Cloud账户 配置Spring AI框架的Maven依赖 使用PagePdfDocumentReader读取PDF文档 通过TokenTextSplitt
【腾讯云云上实验室】——向量数据库——Embedding
红目香薰
11-18 5355
腾讯向量数据库——Embedding 一、创建向量数据库以及创建集合 二、Python链接向量数据库 三、向集合插入文本数据 四、查询检索 五、修改数据
Embedding 和向量数据库
无所为而为
06-10 184
可以理解为特征表达（ 将特征（ 如果是文本的话就是分词后的数据 ）用向量表示，而后在这个向量空间中，相似特征的向量在空间上是接近的 ），将高维稀疏矩阵映射到低维稠密向量空间的过程（ 高维到低维的过程会学习特征的内在特征和语义信息，结果是让向量不再仅仅表达一个特征，更重要的是让相似特征的向量在向量空间中接近，关联度高 ），作用：降维，方便计算关联度 cos （Embedding 的是实现方法：Word2Vec，原理是将一个特征（ 向量 ）和一个字典矩阵（ 包含许多信息的矩阵 ）相乘，学习到信息。
2024年最全嵌入式数据库（Embedded Database）_嵌入式数据库有哪些，你值得拥有
2401_85015212的博客
05-14 1916
UnQLite用来在数据库中存储JSON文档（如，对象、数组、字符串等）的文档存储接口，是通过Jx9编程语言支撑/实现的。Jx9是一种嵌入式的脚本语言，也叫扩展语言，被设计用于通用过程化编程，具备数据表述的特性。UnQLite是，100%手工编码，使用ANSI C，线程安全，完全可重入，编译无需修改，而且可运行于绝大多数的平台，包括受限的嵌入式设备，仅需要一个C编译器。2、数据库文件仅受操作系统的限制，且支持将一个数据库分割成不同文件，突破了操作系统最大文件的限制，提高了IO吞吐量。
搭建 Embedding 向量数据库，手把手教你创造自己的私人智能助理
python1234567_的博客
09-02 1674
上篇文章讲解了 Embedding 的一些基本信息并使用 OpenAI 的 Embedding API 进行演示。上篇文章的案例是每次都重新构建向量数据，虽然 Embedding 方法调用并不算贵，若是私有数据较大，每次都将私有数据转换成对应的向量数据也是一个大开销，这时候就需要的存在。
4、Embedding基础：Embedding 与向量数据库
Hugo的博客
04-27 1596
Qdrant（读作：quadrant /'kwɑdrənt/ n. 象限；象限仪；四分之一圆）是一个向量相似度搜索引擎。它提供了一个生产就绪的服务，具有方便的 API 来存储、搜索和管理点 - 带有附加载荷的向量。专门支持扩展过滤功能，使其对各种神经网络或基于语义的匹配、分面搜索和其他应用非常有用。以下展示了如何使用与向量数据库相关的功能。有各种运行的模式，取决于所选择的模式，会有一些细微的差异。选项包括：本地模式，无需服务器Qdrant 云请参阅安装说明。
Embedding及其数据库
m0_46311043的博客
08-29 1256
我们知道，向量数据库是指用来在进行LLM问答时进行上下文检索的，一个好的向量数据库应该可以将LLM所需的信息提取出来精准匹配，但是由于算法的缺点，embedding数据库通过LLM的向量匹配是比较困难进行提取的，各种各样的距离算法也是效果各不相同，因此后面出现了各式各样的多次RAG来提高准确度，在实际应用场景中，还是有很多需要精度而对时间要求不那么高的场景的。因为，探究RAG的原理及其背后技术成为我们改进的基础。首先，
大模型之Spring AI实战系列（十一）：Spring Boot + OpenAI 集成本地向量数据库Chroma
寻道AI，探索AI无限可能！
05-22 7938
在前面的文章中，我们已经学习了如何使用 Spring AI 构建基础聊天服务、流式对话、上下文记忆、角色设定、动态提示词模板、结构化输出、语音识别与合成、图像生成等能力。本文将聚焦于**向量数据库（VectorStore）** 的集成与使用。 我们将基于 `spring-ai-openai-vectorStore` 示例项目，并结合本地部署的 [Chroma](https://docs.trychroma.com/) 向量数据库，详细介绍如何通过 Spring AI 集成 Chroma 、
SpringAI系列 - RAG篇（一） - Embedding Model
罗小爬的技术宝书
02-18 357
我们亦可以通过HTTP接口调用的方式对EmbeddingMode发起调用，我们将文本发送给EmbeddingModel，然后EmbeddingModel将向量化后的多维浮点数数组返回给我们。加载到向量数据库的过程中，最重要的转换之一是将原始文档拆分成较小的部分。考虑到模型的令牌限制，我们需要具备过滤相关数据的能力，并将过滤出的数据填充到在模型交互的上下文窗口中，这种方法俗称。这种将高维数据映射到低维空间的技术在机器学习中非常有用，因为它可以将复杂的数据表示为简单的向量，从而便于计算和分析。
大模型工程师学习日记（六）：Embedding 与向量数据库
qq_75269600的博客
03-02 1137
通过这种层次化的搜索过程，HNSW 能够快速缩小搜索范围，在大规模数据中高效找到近似最近邻。
Embedding 基础
Edward_Legend的博客
11-21 2万+
一、什么是Embedding 简单来说，Embedding 就是用一个数值向量“表示”一个对象（Object）的方法，这里说的对象可以是一个词、一个物品，也可以是一部电影等等。一个物品能被向量表示，是因为这个向量跟其他物品向量之间的距离反映了这些物品的相似性。更进一步来说，两个向量间的距离向量甚至能够反映它们之间的关系。这个解释听上去可能还是有点抽象，那我们再用两个具体的例子解释一下。 上图是 Google 著名的论文 Word2vec 中的例子，它利用 Word2vec 这个模型把单词映射到了高维空间中
嵌入式数据库（Embedded Database）
qq_41854911的博客
01-10 6090
嵌入式数据库（Embedded Database）和数据库服务器（Database Server） 像Oracle、Sybase、MySQL和SQL Server这些大家熟知的数据库都属于数据库服务器（当然不排除某些也提供嵌入式版本），而像SQLite、Berkeley DB等属于嵌入式数据库。 嵌入式数据库跟数据库服务器最大的区别在于它们运行的地址空间不同。通常，数据库服务器独立地运行一个守护进程（daemon），而嵌入式数据库与应用程序运行在同一个进程。 数据库服务器的架构 数据库客户端通常通过数据库驱
利用MTCNN和facenet实现人脸检测和人脸识别
热门推荐
AI吃大瓜的博客
12-09 6万+
利用MTCNN和facenet实现人脸检测和人脸识别 人脸检测和人脸识别技术算是目前人工智能方面应用最成熟的技术了。本博客将利用mtcnn和faceNet搭建一个实现人脸检测和人脸识别的系统。基本思路也很简单，先利用mtcnn的进行人脸检测，当然也可以使用其他的人脸检测方法，如Dilb，OpenCV，OpenFace人脸检测等等，然后再利用faceNet进行人脸识别，faceNet可简单...
关于Network embedding的一些笔记(内含数据集）
ZhichaoDuan的博客
03-15 7693
首先这也是我进入一个全新领域的第一步，本文有描述不准确的地方还望指正。Network embedding也就是将Graph中的node投影到低维度的向量空间中，再进行后续处理的计算。A Survey on Network Embedding 这篇论文对各种方法的优点和缺点都进行了详细的叙述。很多复杂的系统都是采用网络的形式，比如社交网络，生物网络，和信息网络。通常这些网络都很复杂，不容易处理，计算...
embedding在推荐系统中的应用总结，这些你知道吗？
华为云官方博客
04-16 4186
【摘要】 文章专门把embedding单独提出来，梳理和总结一下embedding在推荐系统中的应用，包括对深度学习方法和传统方法的分析。 不知道大家有没有这种感受，在学习推荐系统算法模型时，少不了embedding的应用，有的推荐算法模型甚至可以说就是在做embedding的过程，可见embedding在推荐系统中的重要性。 这篇文章就专门把embedding单独提出来，梳理一下embedd...
spring ai Rag 怎么使用
03-10
<think>嗯，用户问的是Spring AI中的RAG怎么使用。首先，我需要确认用户对RAG和Spring AI的基础了解程度。RAG是检索增强生成，结合了检索和生成模型，而Spring AI是一个集成AI能力的框架。用户可能已经知道这些概念，但可能需要具体的实现步骤。 用户可能是在开发一个需要结合外部知识库的AI应用，比如客服系统或者智能问答系统。他们可能遇到的问题是，生成模型在回答特定领域问题时不够准确，所以希望通过RAG来提升效果。 接下来，我需要考虑Spring AI中RAG的具体实现方式。可能需要用到文档加载、向量存储、检索和生成模型集成。要分步骤讲解，从环境配置到代码示例，确保新手也能理解。 可能需要注意的点包括：依赖项的引入，如何准备文档，向量数据库的选择（比如Redis、PgVector），检索策略的设置，以及与OpenAI或本地模型的结合。还要提醒用户处理可能出现的异常，比如API连接问题或文档解析错误。 用户可能还想知道实际应用中的优化技巧，比如分块策略、元数据过滤和模型选择。这些内容可以作为进阶部分加入，帮助他们进一步提升效果。最后，给出一个完整的代码示例，让用户可以直接参考实现。</think>以下是Spring AI中RAG（检索增强生成）的完整使用指南，包含代码示例和最佳实践： ```java // 基础环境配置（pom.xml关键依赖） <dependency> <groupId>org.springframework.ai</groupId> <artifactId>spring-ai-openai-spring-boot-starter</artifactId> <version>0.8.1</version> </dependency> <dependency> <groupId>org.springframework.ai</groupId> <artifactId>spring-ai-pgvector-store</artifactId> <version>0.8.1</version> </dependency> // 核心实现类示例 @RestController public class RagController { @Autowired private VectorStore vectorStore; @Autowired private ChatClient chatClient; // 文档入库处理 @PostMapping("/ingest") public void ingestDocuments(@RequestParam("path") String docPath) { DocumentReader reader = new PdfDocumentReader(docPath); TextSplitter splitter = new TokenTextSplitter(1000, 200); List<Document> documents = splitter.apply(reader.get()); vectorStore.add(documents.stream() .map(doc -> new Document( doc.getId(), doc.getContent(), Metadata.of("source", docPath)) ).collect(Collectors.toList())); } // RAG问答接口 @GetMapping("/ask") public String askQuestion(@RequestParam String question) { // 向量检索（带相似度阈值过滤） List<Document> contexts = vectorStore.similaritySearch( SearchRequest.query(question) .withTopK(5) .withSimilarityThreshold(0.7) ); // 构造增强提示词 String augmentedPrompt = String.format( "基于以下上下文：\n%s\n\n请回答：%s", contexts.stream() .map(Document::getContent) .collect(Collectors.joining("\n---\n")), question ); // 调用生成模型 return chatClient.generate( new Prompt(augmentedPrompt, OpenAiChatOptions.builder() .withTemperature(0.3) .build() )).getGeneration().getContent(); } } ``` **关键配置项（application.yml）：** ```yaml spring: ai: vectorstore: pgvector: dimensions: 1536 # 适配OpenAI嵌入维度 openai: api-key: ${OPENAI_API_KEY} embedding-model: text-embedding-3-small chat-model: gpt-3.5-turbo ``` **最佳实践：** 1. **分块策略优化** ```java // 使用语义分块替代固定长度分块 TextSplitter splitter = new SemanticTextSplitter() .withWindowSize(512) .withOverlap(128); ``` 2. **混合检索增强** ```java // 结合关键词检索和向量检索 List<Document> keywordResults = vectorStore.keywordSearch(question, 3); List<Document> vectorResults = vectorStore.similaritySearch(...); List<Document> hybridResults = mergeResults(keywordResults, vectorResults); ``` 3. **元数据过滤** ```java // 添加文档时携带元数据 Document doc = new Document() .withContent(content) .withMetadata(Metadata.of("department", "HR")); // 检索时过滤 SearchRequest request = SearchRequest.query(question) .withFilterExpression("department == 'HR'"); ``` **常见问题处理：** 1. 长上下文优化： ```java // 启用长上下文优化模式 OpenAiChatOptions.builder() .withModel("gpt-3.5-turbo-16k") .withMaxTokens(4000); ``` 2. 结果验证： ```java // 添加引用溯源 response += "\n\n参考资料：\n" + contexts.stream() .map(d -> "• " + d.getMetadata().get("source")) .collect(Collectors.joining("\n")); ``` **性能优化建议：** - 使用本地嵌入模型降低成本： ```yaml spring: ai: embedding-model: onnx://microsoft/all-MiniLM-L6-v2 ``` - 启用缓存机制： ```java @Cacheable(value = "ragCache", key = "#question.hashCode()") public String getCachedResponse(String question) { ... } ``` 完整项目建议包含： 1. 异常处理（处理API限流、文档解析错误） 2. 日志记录（记录检索上下文和生成结果） 3. 评估模块（使用RAGAS指标评估效果） 4. 异步处理（使用@Async进行批量文档处理）
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值