使用Experimental Anthropic Tools Wrapper进行工具调用和结构化输出

在本文中，我们将探讨如何使用实验性的Anthropic Tools Wrapper，为Anthropic API添加工具调用和结构化输出功能。需要注意的是，Anthropic API已经正式支持工具调用，因此建议在实际项目中使用langchain-anthropic版本>=0.1.5的ChatAnthropic。

技术背景介绍

尽管Anthropic API现已正式支持工具调用，但在一些特定的测试和实验场景中，这个实验性的工具封装器仍旧可以为开发者提供便捷的工具调用能力，并支持从LLM中解析XML格式的结构化输出。

核心原理解析

ChatAnthropicTools是一个实验性封装器，允许使用Pydantic模型或BaseTools绑定工具到LLM(大型语言模型)。这样做的好处是可以通过封装器自动将输入数据结构化并传递给API，并接收结构化输出。

代码实现演示

下面是一个使用ChatAnthropicTools进行工具调用和结构化输出的完整示例代码：

# 安装必要的库
%pip install -qU langchain-anthropic defusedxml

from langchain_anthropic.experimental import ChatAnthropicTools
from langchain_core.pydantic_v1 import BaseModel

# 定义一个Pydantic模型，代表工具的输入结构
class Person(BaseModel):
    name: str
    age: int

# 绑定工具到模型
model = ChatAnthropicTools(model="claude-3-opus-20240229").bind_tools(tools=[Person])

# 调用模型并解析返回的AI消息中的工具调用
response = model.invoke("I am a 27 year old named Erick")
print(response.additional_kwargs['tool_calls'])

# 使用结构化输出解析返回数据
chain = ChatAnthropicTools(model="claude-3-opus-20240229").with_structured_output(Person)
result = chain.invoke("I am a 27 year old named Erick")
print(result)

该代码展示了如何绑定一个Person模型作为工具，并解析调用结果以获取结构化输出。在本例中，我们成功地将输入转换为Person对象，提取出用户的姓名和年龄。

应用场景分析

尽管现有的正式实现已经能够满足大部分需求，这个实验性的封装器仍然可以用于以下场景：

1. 测试验证：在使用最终API之前，快速验证工具调用功能的有效性。
2. 实验研究：在研究不同的数据结构和调用模式时，提供一个灵活的实验环境。

实践建议

• 在生产环境中，优先使用Anthropic API的正式实现。
• 利用ChatAnthropicTools在开发和测试阶段，加速工具调用功能的原型设计。
• 结合Pydantic模型，确保数据结构的完整性和一致性。

如果遇到问题欢迎在评论区交流。
—END—