探索OpenAI功能工具检索代理：动态选择工具的新方式-优快云博客

探索OpenAI功能工具检索代理：动态选择工具的新方式

在AI工具集不断扩展的时代，如何有效管理和选择合适的工具来解决特定的任务成为了一个关键问题。本文将介绍一种创新的解决方案：使用OpenAI功能工具检索代理来动态选择工具。这一方法特别适合拥有大量工具集的情况，可以帮助开发人员在上下文限制下高效选择合适的工具。

引言

当我们需要应对多样化的任务时，工具的海量选择常常使得决策变得复杂。你可能无法在一个提示中包含所有工具的描述，这是因为上下文长度的限制。因此，我们需要一种动态选择出需要使用的N个工具的方法。

本文将通过一个简单的示例，演示如何使用OpenAI功能工具检索代理实现这一目标。我们将使用一个真实的工具（搜索）和99个虚假的工具来展示如何从中检索相关的工具。

主要内容

1. 环境设置

要使用这个模板，你需要进行一些环境设置：

设置OPENAI_API_KEY环境变量以访问OpenAI模型。
设置TAVILY_API_KEY环境变量以访问Tavily。

2. 安装和使用

在使用这个包之前，你需要先安装LangChain CLI：

pip install -U langchain-cli

要创建一个新的LangChain项目并安装这个包，执行以下命令：

langchain app new my-app --package openai-functions-tool-retrieval-agent

如果你希望将其添加到现有项目中，只需运行：

langchain app add openai-functions-tool-retrieval-agent

然后在你的server.py文件中添加以下代码：

from openai_functions_tool_retrieval_agent import agent_executor as openai_functions_tool_retrieval_agent_chain

add_routes(app, openai_functions_tool_retrieval_agent_chain, path="/openai-functions-tool-retrieval-agent")

3. 可选配置LangSmith

LangSmith可以帮助我们跟踪、监控和调试LangChain应用程序。如果你有LangSmith的访问权限，可以设置：

export LANGCHAIN_TRACING_V2=true
export LANGCHAIN_API_KEY=<your-api-key>
export LANGCHAIN_PROJECT=<your-project>  # 如果没有指定，默认为"default"

4. 启动服务器

在设置完成后，你可以启动LangServe实例：

langchain serve

这将在本地启动一个FastAPI应用服务器，地址是http://localhost:8000。你可以通过http://127.0.0.1:8000/docs查看所有模板，并在http://127.0.0.1:8000/openai-functions-tool-retrieval-agent/playground访问操场。

代码示例

以下是一个使用OpenAI功能工具检索代理选择工具的示例：

from langserve.client import RemoteRunnable

# 使用API代理服务提高访问稳定性
runnable = RemoteRunnable("{AI_URL}/openai-functions-tool-retrieval-agent")

# 示例调用
response = runnable.run({"query": "需要进行基本搜索操作"})
print(response)