引言
在开发使用Langchain的应用或代理时,会进行多次API调用以满足单次用户请求。然而,这些请求通常在分析时并未被串联起来。借助Portkey,您可以为单个用户请求的所有嵌入、完成和其他请求分配一个通用ID,实现用户交互的完整可见性。这篇文章将指导您如何在Langchain应用中使用Portkey记录、跟踪和监控LLM调用。
主要内容
1. 导入必要的库
首先,我们需要导入Portkey、OpenAI和Agent相关工具:
import os
from langchain.agents import AgentExecutor, create_openai_tools_agent
from langchain_openai import ChatOpenAI
from portkey_ai import PORTKEY_GATEWAY_URL, createHeaders
2. 配置API密钥
在开始使用之前,需要配置OpenAI和Portkey的API密钥。
# 配置OpenAI API密钥
os.environ["OPENAI_API_KEY"] = "你的OpenAI_API_Key"
# 配置Portkey API密钥
PORTKEY_API_KEY