如何在LangChain中传递回调构造函数-优快云博客

本文链接：https://blog.youkuaiyun.com/qahaj/article/details/145711550

在现代AI应用中，回调机制是处理异步和状态变化的关键方法之一。在LangChain框架中，回调可以通过构造函数传递以处理特定实例的任务，但这些回调只作用于其所属对象，对子对象不继承。本文将介绍如何在LangChain中正确使用构造回调，并提供运行实例代码。

技术背景介绍

LangChain是一个用于构建复杂对话和链式任务的框架。在开发过程中，可以通过回调捕获不同阶段的事件，用于日志记录、调试或其他业务逻辑。

核心原理解析

在LangChain中，回调函数主要用于捕获模型启动、结束，以及任务链的开始和结束事件。虽然可以在对象初始化时传递回调，但注意这些回调仅适用于该对象实例。更灵活的方式是运行时传递回调，以便在更广泛的上下文中使用。

代码实现演示(重点)

下面的代码展示了如何在LangChain中通过构造函数传递回调，并进行事件捕获：

from typing import Any, Dict, List
from langchain_anthropic import ChatAnthropic
from langchain_core.callbacks import BaseCallbackHandler
from langchain_core.messages import BaseMessage
from langchain_core.outputs import LLMResult
from langchain_core.prompts import ChatPromptTemplate

# 自定义回调处理程序
class LoggingHandler(BaseCallbackHandler):
    def on_chat_model_start(self, serialized: Dict[str, Any], messages: List[List[BaseMessage]], **kwargs) -> None:
        print("Chat model started")

    def on_llm_end(self, response: LLMResult, **kwargs) -> None:
        print(f"Chat model ended, response: {response}")

    def on_chain_start(self, serialized: Dict[str, Any], inputs: Dict[str, Any], **kwargs) -> None:
        print(f"Chain {serialized.get('name')} started")

    def on_chain_end(self, outputs: Dict[str, Any], **kwargs) -> None:
        print(f"Chain ended, outputs: {outputs}")

# 使用自定义回调创建ChatAnthropic实例
callbacks = [LoggingHandler()]
llm = ChatAnthropic(model="claude-3-sonnet-20240229", callbacks=callbacks)
prompt = ChatPromptTemplate.from_template("What is 1 + {number}?")

# 设置任务链
chain = prompt | llm

# 调用任务链
chain.invoke({"number": "2"})