【AI大模型应用开发】【LangChain系列】3. 一文了解LangChain的记忆模块（理论实战+细节）

已于 2024-03-22 13:43:28 修改
阅读量1.8k 收藏 33
点赞数 26
CC 4.0 BY-SA版权
分类专栏： 大模型 文章标签： 人工智能 langchain python 笔记 经验分享 prompt
于 2024-02-07 06:30:00 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/Attitude93/article/details/136024862

大家好，我是【同学小张】。持续学习，持续干货输出，关注我，跟我一起学AI大模型技能。

大多数LLM应用程序都有一个会话接口。会话的一个重要组成部分是能够参考会话早期的信息（上文信息）。这种存储过去互动信息的能力就称为“记忆（Memory）”。LangChain提供了许多用于向系统添加Memory的封装。

目前 LangChain 中大多数的Memory封装还都是测试版本。成熟的Memory主要是ChatMessageHistory。

0. 认识Memory

在这里插入图片描述

Memory，通俗的讲，就是记录对话的上下文信息，在有需要的时候补充到用户的提问中去。看上图，简单说下Memory的使用流程：

  • 当用户输入一个问题，首先从Memory中读取相关的上文信息（历史对话信息），然后组装成一个Prompt，调用大模型，大模型的回复作为历史对话信息保存在Memory中，供之后的对话使用。

下面让我们来看一看LangChain的Memory到底长什么样。

0. 对话上下文Conversatio

了解本专栏 订阅专栏 解锁全文 超级会员免费看
【AI大模型应用开发】【LangChain系列】2. 一文全览LangChain数据连接模块：从文档加载到向量检索RAG，理论+实战+细节
同学小张的博客
02-06 5171
本文学习 LangChain 中的 数据连接（Retrieval） 模块。该模块提供文档加载、切分，向量存储、检索等操作的封装。最后，结合RAG基本流程、LangChain Prompt模板和输入输出模块，我们将利用LangChain实现RAG的基本流程。
【LangChain编程：从入门到实践】记忆模块
AI天才研究院
06-14 514
1.背景介绍 在编程领域，我们经常需要处理数据的存储和检索。这就需要一种有效的方法来“记忆”数据，以便在需要时可以快速地检索。这就是我们今天要讨论的主题——LangChain编程中的记忆模块。 LangChain是一种新的编程语言，它的设计目标是为了解决在大规模数据处理中的一些常见问题，如数据存储、检索、并行处理等。它的记忆模块是其中的一
langchain从入门到精通（十二）——不同记忆组件介绍
最新发布
swpucwf的博客
06-17 794
缓冲记忆组件是 LangChain 中最简单的记忆组件，绝大部分都不对数据结构和提取算法做任何处理，就是简单的原进原出，也是使用频率最高的记忆组件，在 LangChain 中封装了几种内置的缓冲记忆组件，涵盖：① ConversationBufferMemory：缓冲记忆，最简单，最数据结构和提取算法不做任何处理，将所有对话信息全部存储作为记忆。② ConversationBufferWindowMemory：缓冲窗口记忆，通过设定 k 值，只保留一定数量（2*k）的对话信息作为历史。
LangChain之内存记忆 ( Memory )
2401_85328934的博客
05-30 1115
大多数LLM应用都具有对话功能，如聊天机器人，记住先前的交互非常关键。对话的重要一环是能够引用之前提及的信息，这些信息需要进行存储，因此将这种存储过去交互信息的能力称为记忆 ( Memory )。默认情况下，链式模型和代理模型都是无状态的，这意味着它们会独立处理每个传入的查询，类似于底层的LLMs和聊天模型本身的处理方式。当有了记忆之后，每个链都定义了一些需要特定输入的核心执行逻辑。其中一些输入直接来自用户，但其中一些输入可以来自记忆。在给定的运行中，链将与其记忆系统交互两次。
langchain入门三:memory-记忆组件,让大语言模型拥有记忆
Langchain的博客
05-21 1427
langchain入门三:memory-记忆组件,让大语言模型拥有记忆
玩转 LangChain Memory 模块：四种记忆类型详解及应用场景全覆盖
吴师兄大模型的博客
01-10 2583
用户刚刚告诉系统自己的名字，而下一轮对话中系统却“忘记”了？面对长时间的多轮对话，如何在有限资源下高效管理上下文？如何在信息量巨大的交互中，快速提炼核心内容而不遗漏关键信息？在传统对话模型中，由于上下文信息管理的缺失，模型经常会给出不连贯或无意义的回答。而随着对话应用需求的不断升级，存储和管理对话历史变得至关重要。LangChain 提供了强大的Memory 模块，让我们能够轻松实现对话的“记忆力”，从而构建出更智能、更连贯的对话系统。
【2024最全最细Langchain教程-10】Langchain记忆模块
u013607702的博客
01-29 2471
上节课我们介绍了如何利用langchain去加载互联网页面内容（中文信息）、向量化和利用大语言模型进行查询，这节课我们讲一下Langchain的记忆模块。我们利用langchain构造最多的就是聊天机器人，而要进行聊天的业务功能，就必须使得大语言模型能够获得上下文，这样对话才能继续。
【AI大模型应用开发】以LangChain为例：从短期记忆实战，到如何让AI应用保持长期记忆的探索
同学小张的博客
03-30 4830
本文我们来系统看下实现大模型应用记忆的方法，包括短期记忆和长期记忆。还是以LangChain为例来进行实战。
【AI大模型应用开发】【LangChain系列】实战案例4：再战RAG问答，提取在线网页数据，并返回生成答案的来源
同学小张的博客
03-12 3492
本文利用 LangChain 实现了一个完整的问答RAG应用。其中RAG中的数据源采用加载网页数据的形式获取，而不是采用之前实践中传统的本地知识库（加载本地PDF文件）的方式。然后我们还在RAG的返回中增加了参考文本的输出，这是之前我们没有实践过的，算是一点新知识。在实现这个功能的过程中，最主要的是学会使用 LangChain 中提供的 `RunnablePassthrough` 和 `RunnableParallel` 进行值的传递。
【AI大模型应用开发】【RAG评估】2. 实战：LangChain x RAGAs x LangSmith联合评估RAG应用，兼看如何借助LangSmith有效学习LangChain
同学小张的博客
02-26 2883
今天我们完整的实战：将RAGAs集成在LangChain的RAG应用中，同时打通LangSmith平台，使评估过程可视化。同时还会有意外收获：带你看看如何利用LangSmith平台来有效学习LangChain的使用和相关知识。
langchain入门:memory-记忆组件,让大语言模型拥有记忆
2401_84495872的博客
08-27 1368
存储对话历史中的信息的能力称之为’记忆‘，这种工具可以单独使用，也可以无缝的集成到一条链中,记忆的存储长度是程序执行到结束，执行一次的所有记忆。记忆组件需要支持读取写入每条链定义了核心执行逻辑，期望某些输入，一些来自用户，一些来自记忆组件，在一次与LLM的交互中，链与记忆组件交互两次读取记忆:将之前的交互内容进行读取,放入到本次交互中写入记忆:将本次的交互内容写入到记忆当中。
从零开始学LangChain（3）：Memory 模块和 Chain 模块
强化学习曾小健
12-10 777
原创 莫尔索 莫尔索随笔 2023年07月26日 22:00 四川Chain 和 Agent 是无状态的，一次只能处理一个单一输入，Memory 可以管理和记录历史消息，一个带存储的 Agent 例子如下： Chains[2] 链定义为对组件的一系列调用，也可以包括其他链，这种在链中将组件组合在一起的想法很简单但功能强大，极大地简化了复杂应用程序的实现并使其更加模块化，这反过来又使调试、维护和改进应用程序变得更加容易。Chain 基类是所有 Chain 对象的基本入口，与用户程序交互，处理用户的输入，
LangChain：记忆模块
Andy的博客
07-30 1079
想一想，为什么需要记忆模块？大模型本质上是无记忆的。当与其交互时，它仅根据提供的提示生成响应的输出，而无法存储或记住过去的交互内容。因为是无记忆的，意味着它不能“学习或“记住”用户的偏好、以前的错误或其他个性化信息，难以满足人们的期望。人们期待聊天机器人具有人的品质和回应能力。在现实的聊天环境中，人们的对话中充满了缩写和含蓄表达，他们会引用过去的对话内容，并期待对方能够理解和回应。例如，如果在聊天一开始时提到了某人的名字，随后仅用代词指代，那么人们就期望聊天机器人能够理解和记住这个指代关系。
langchain memory
m0_61253599的博客
07-22 556
向量数据库（Vector Database）是一种专门设计用来存储、管理和检索高维向量数据的数据库系统。向量数据库的主要优势在于其对高维向量数据的高效处理能力，尤其适用于需要进行相似性搜索的应用场景，如图像检索、推荐系统、自然语言处理等。• 利用k近邻算法进行相似性搜索，适合于与文本搜索结合的场景。• 一种开源的向量数据库，专为处理大规模、高维向量数据设计。• 由Spotify开发的用于推荐系统的相似性搜索库。• 构建基于树的索引，适合高维空间中的近似最近邻搜索。• 高效处理大规模、高维向量数据。
大模型从入门到应用——LangChain：记忆（Memory）-[聊天消息记录]
冯·诺依曼
08-15 5325
有时候在连接到AWS端点时指定URL非常有用，比如在本地使用Localstack进行开发。对于这种情况，我们可以通过构造函数中的参数来指定URL。
Langchain里的“记忆力”，让AI只记住有用的事
dfBeautifulLive的博客
09-27 2457
今天要讲以下内容：1.ConversationBufferWindowMemory：基于一个固定长度的滑动窗口的“记忆”功能2.ConversationSummaryMemory：总结对话“记忆”功能3.ConversationSummaryBufferMemory：上面两个的结合，超过一定token限制之前以对话形式进行存储，超过之后进行小结存储。4.memory.save_context：有上下文对话，可以通过此插入对话内容，可供后续对话内容。
LangChain-记忆系统 (Memory)
1.大规模企业集群服务开发和服务架构设计，性能优化等经验。 2.企业级数据仓库0-1落地经验。
04-10 1186
在构建对话式AI应用时，能够记住上下文和之前的交互至关重要。存储对话历史：保存之前的消息交换管理上下文窗口：控制传递给模型的上下文量提取相关信息：从历史中选择重要信息处理长期记忆：管理超出上下文窗口的信息# 创建摘要记忆llm=ChatOpenAI(), # 用于生成摘要的模型# 使用摘要记忆summary_memory.chat_memory.add_user_message("你好！我叫李明，我是一名软件工程师。")
16｜Langchain里的“记忆力”，让AI只记住有用的事儿
qq_37756660的博客
02-01 1855
在过去的两讲里，我们深入了解了 Langchain 的第一个核心功能，也就是 LLMChain。LLMChain 能够帮助我们链式地调用一系列命令，这里面既包含直接调用 OpenAI 的 API，也包括调用其他外部接口，或者自己实现的 Python 代码。但是这一连串的调用，还只是完成一个小任务。我们很多时候还是希望用一个互动聊天的过程，来完成整个任务。所以 LangChain 并不是只有链式调用这样一个核心功能，它还封装了很多其他能力，来方便我们开发 AI 应用。
【笔记】LangChain的记忆存储方式
sharloopSeason的博客
07-07 1552
LangChain的4种对话记忆模式介绍
ai大模型应用开发框架langchain4j
05-07
<think>好的，我现在需要处理用户关于LangChain4J框架在AI大模型应用开发中的使用方法和文档的查询。用户已经提供了四个引用内容，我需要仔细分析这些内容，提取相关信息，并生成结构清晰的回答和相关问题。 首先，用户的需求是查找LangChain4J的使用指南、示例和代码。根据引用[1]，LangChain4J是一个基于Java的轻量级框架，用于集成大型语言模型（LLM），支持多种模型如OpenAI、HuggingFace和本地模型Ollama。核心功能包括模型集成、提示工程、链式调用、记忆管理、数据增强和工具扩展。引用[3]提到ChatLanguageModel和StreamingChatLanguageModel这两个接口的区别，可能和模型调用方式有关。引用[4]提到了一些案例集，但用户可能需要具体的代码示例，而不仅仅是案例参考。 接下来，我需要组织回答结构，确保符合用户的要求：结构清晰，分步解决问题，真实可靠。根据示例中的格式，可能需要先介绍框架，然后分模块讲解使用方法，接着提供代码示例，最后生成相关问题。 需要注意的是，用户提供的引用中没有具体的代码示例，但引用[1]提到了Python版的LangChain，而LangChain4J是Java版本，可能需要假设代码结构类似，或者参考官方文档的结构。由于引用中没有给出具体代码，可能需要根据功能描述构造示例，比如模型初始化的代码、提示模板的使用、链式调用等。 另外，用户要求使用中文回答，所有数学表达式用$...$，独立公式用$$...$$，但当前问题涉及的是编程框架，可能数学公式较少，但如果有涉及数学的地方需要正确应用格式。例如，在解释算法复杂度时可能需要数学符号，比如$O(n \log n)$。 需要确保回答中的引用标识正确，如引用[^1]、[^2]等，对应到用户提供的引用内容。例如，当提到核心功能时，引用[^1]；对比LangChain和LlamaIndex时引用；接口区别引用[^3]；案例集引用[^4]。 可能的相关问题需要围绕用户的需求扩展，比如性能优化、实际应用案例、与其他框架对比等。例如： 1. LangChain4J如何处理模型调用的性能优化？ 2. 如何通过LangChain4J实现检索增强生成（RAG）？ 3. LangChain4J与Python版LangChain的主要区别是什么？ 最后，需要验证回答是否符合所有系统级指令，包括行内数学格式（如果有的话）、独立公式、LaTeX正确性、中文回答、生成相关问题，并在引用处正确添加标识。同时，确保回答中的代码块使用正确的语法高亮，如Java而非Python，因为LangChain4J是Java框架。 总结步骤： 1. 介绍LangChain4J框架及其核心功能，引用。 2. 分模块讲解使用方法：模型集成、提示模板、链式调用、记忆管理、数据增强、工具扩展，每个部分结合代码示例。 3. 提供完整的代码示例，可能包括初始化模型、创建提示模板、执行链式调用。 4. 生成相关问题，涉及性能优化、实际应用、与其他工具对比等。 5. 确保所有引用正确标注，回答结构清晰，代码正确无误。</think>以下为分步指南与示例代码： # LangChain4J框架使用指南 ### 一、框架概述 LangChain4J是基于Java的LLM集成框架，支持OpenAI、HuggingFace等主流模型接入，提供模块化设计简化AI应用开发流程。 ### 二、核心模块使用 #### 1. 模型集成 ```java // 初始化OpenAI模型 OpenAiChatModel model = OpenAiChatModel.builder() .apiKey("sk-***") .modelName("gpt-3.5-turbo") .temperature(0.7) .build(); ``` #### 2. 提示工程 ```java // 创建动态提示模板 PromptTemplate template = PromptTemplate.from("用{{style}}风格解释: {{query}}"); Map<String, Object> variables = new HashMap<>(); variables.put("style", "诗歌"); variables.put("query", "量子计算"); String prompt = template.apply(variables); // 执行模型调用 Response response = model.generate(prompt); ``` #### 3. 链式调用 ```java Chain chain = Chain.builder() .addStep(new DataRetrievalStep(vectorStore)) // 数据检索步骤 .addStep(new PromptTemplateStep(template)) // 提示生成步骤 .addStep(new ModelInvocationStep(model)) // 模型调用步骤 .build(); ChainResult result = chain.execute(userQuery); ``` #### 4. 记忆管理 ```java // 创建对话记忆存储 ChatMemory chatMemory = MessageWindowChatMemory.builder() .maxMessages(10) .build(); // 在对话中保持上下文 chatMemory.add(new HumanMessage("我想预订北京到上海的机票")); chatMemory.add(new AiMessage("请问出行日期是？")); ``` ### 三、完整示例（RAG实现） ```java // 1. 初始化组件 EmbeddingModel embeddingModel = new HuggingFaceEmbeddingModel(); VectorStore vectorStore = new InMemoryVectorStore(embeddingModel); ChatLanguageModel llm = new OpenAiChatModel("sk-***"); // 2. 构建RAG链 Chain ragChain = Chain.builder() .addStep(new DocumentRetrievalStep(vectorStore, 3)) // 检索前3相关文档 .addStep(new PromptTemplateStep("基于以下信息回答：{{documents}}\n问题：{{query}}")) .addStep(new ModelInvocationStep(llm)) .build(); // 3. 执行查询 String answer = ragChain.execute("量子计算机的工作原理是什么？").content(); ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

同学小张

如果觉得有帮助，欢迎给我鼓励！

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值