m0_58617940的博客

【代码】Langchain4j 整合向量数据库（10）

​ 之前我们使用的是InMemoryEmbeddingStore作为向量存储，但是不建议在生产中使用基于内存的向量存储。因此这里我们使用Pinecone作为向量数据库。​ 访问官方网站、注册、登录、获取apiKey且配置在环境变量中。默认有2GB的免费存储空间。

LLM 的知识仅限于它所训练的数据。如果你想让 LLM 了解特定领域的知识或专有数据，你可以：使用 RAG使用你的数据微调 LLM结合 RAG 和微调。

来自 langchain4j 模块的文件系统文档加载器（FileSystemDocumentLoader）来自 langchain4j 模块的类路径文档加载器（ClassPathDocumentLoader）来自 langchain4j 模块的网址文档加载器（UrlDocumentLoader）来自 langchain4j-document-loader-amazon-s3 模块的亚马逊 S3 文档加载器（AmazonS3DocumentLoader）

摘要：本文介绍了Langchaine4j大模型的流式输出功能，它允许逐步返回生成结果，提升用户体验。内容包括流式输出概念、添加Spring WebFlux和Langchain4j-Reactor依赖的配置方法、创建流式助理服务的代码示例，以及两种测试方式：通过单元测试验证流式输出功能和使用REST接口实现浏览器实时展示。还提供了相关配置参数和测试效果截图，展示了流式输出实时返回结果的特性。

本文介绍了Langchain4j中的Function Calling（函数调用）功能。通过示例展示了不使用函数调用时LLM在处理复杂数学运算时的局限性，以及如何使用@Tool注解创建计算工具类（如加法、平方根计算）来增强模型能力。文章详细解析了函数调用的执行流程、关键注解（@Tool、@P、@ToolMemoryId）的使用方法，以及如何通过工具调用获得准确计算结果。测试案例证实了函数调用机制能有效解决复杂运算问题，并保留了对话上下文记忆。

本文介绍了Langchain4j框架中系统提示词(@SystemMessage)和用户提示词(@UserMessage)的使用方法。系统提示词用于设定AI角色身份和行为模式，可通过注解直接配置或从资源文件加载，修改后会重置聊天记忆。用户提示词可通过{{it}}占位符引用参数，支持多参数场景下的参数名指定。测试案例展示了方言回复、日期处理和表情符号等功能实现，并通过MongoDB存储验证了系统提示词的单次传递特性。这些功能增强了AI交互的个性化和灵活性。

Langchain4j 聊天记忆实现方案 本文介绍了Langchain4j中实现聊天记忆的几种方法： 基础测试：发现直接调用模型不具备记忆功能 手动实现：通过手动传入历史对话记录实现简单记忆 ChatMemory内置功能： 配置MessageWindowChatMemory 使用AiService自动管理对话历史 支持设置最大记忆消息数 隔离记忆： 通过memoryId实现不同会话的记忆隔离 配置ChatMemoryProvider为不同会话创建独立记忆 持久化方案： 基于MongoDB存储聊天记录 实现M

AIService使用面向接口和动态代理的方式完成程序的编写，更灵活的实现高级功能。链的概念源自 Python 中的 LangChain。其理念是针对每个常见的用例都设置一条链，比如聊天机器人、检索增强生成（RAG）等。链将多个底层组件组合起来，并协调它们之间的交互。链存在的主要问题是不灵活，我们不进行深入的研究。在LangChain4j中我们使用AIService完成复杂操作。底层组件将由AIService进行组装。

Spring Boot 接入langchain4j