**利用聊天模型高效调用工具：从理论到实践**-优快云博客

本文链接：https://blog.youkuaiyun.com/ahrghweaHT/article/details/144412673

# 利用聊天模型高效调用工具：从理论到实践

## 引言

在当今的AI应用中，聊天模型不仅限于简单的文本生成，其中一个强大的功能便是工具调用。通过工具调用，我们可以让模型生成用于调用工具的参数，从而处理更复杂的任务。本文将深入探讨如何利用工具调用技术增强AI模型的实用性和灵活性。

## 主要内容

### 什么是工具调用？

工具调用（Tool Calling）允许聊天模型响应给定的提示，通过生成工具参数来“调用”工具。虽然名称暗示模型在执行某些动作，但实际上，模型只是生成工具调用所需的参数，工具的实际执行由用户决定。

### 支持工具调用的模型

工具调用不是所有模型的通用功能，但许多流行的LLM提供商支持此功能。你可以在[这里](https://example.com)找到支持工具调用的所有模型的列表。

### 工具定义与绑定

要让模型调用工具，我们需要定义工具的模式，这些模式描述工具的功能及其参数。支持工具调用特性的聊天模型实现了`bind_tools()`方法，用于将工具模式传递给模型。

#### 使用Python函数定义工具

工具模式可以用Python函数来定义：

```python
def add(a: int, b: int) -> int:
    """Add two integers. Args: a: First integer b: Second integer"""
    return a + b

def multiply(a: int, b: int) -> int:
    """Multiply two integers. Args: a: First integer b: Second integer"""
    return a * b

使用LangChain工具

LangChain也提供了@tool装饰器，允许更详细地控制工具模式。

使用Pydantic类定义工具

from langchain_core.pydantic_v1 import BaseModel, Field

class Add(BaseModel):
    a: int = Field(..., description="First integer")
    b: int = Field(..., description="Second integer")

class Multiply(BaseModel):
    a: int = Field(..., description="First integer")
    b: int = Field(..., description="Second integer")

实际绑定工具到模型

以下是一段代码示例，展示了如何将工具模式绑定到一个聊天模型上：

from langchain_openai import ChatOpenAI

tools = [Add, Multiply]
llm = ChatOpenAI(model="gpt-4o-mini")
llm_with_tools = llm.bind_tools(tools)  # 使用API代理服务提高访问稳定性

query = "What is 3 * 12?"
response = llm_with_tools.invoke(query)

代码示例

以下代码展示了如何结合使用这些工具，通过模型生成需要调用的参数：

query = "What is 3 * 12? Also, what is 11 + 49?"
tool_calls = llm_with_tools.invoke(query).tool_calls

for tool_call in tool_calls:
    print(f"Tool: {tool_call['name']}, Args: {tool_call['args']}")

常见问题和解决方案

如何处理无效的工具调用？

模型有时可能生成不符合预期的工具调用，比如非有效JSON格式的参数。遇到这种情况时，可以使用InvalidToolCall来捕获和处理这些错误。

如何解析工具调用输出？

可以使用output parsers进一步处理输出，比如将.tool_calls的现有值转换为Pydantic对象。

from langchain_core.output_parsers import PydanticToolsParser

chain = llm_with_tools | PydanticToolsParser(tools=[Add, Multiply])
parsed_response = chain.invoke(query)