精通Few-Shot Prompting与工具调用：让AI如虎添翼-优快云博客

本文链接：https://blog.youkuaiyun.com/tt_jishu/article/details/143899840

引言

在构建强大的人工智能应用时，尤其涉及复杂工具使用时，few-shot prompting是一种非常有效的技术。它允许我们通过向AI模型提供少量示例，以引导其执行特定任务。本文将探讨如何结合few-shot prompting与工具调用，实现更智能的AI应用。

主要内容

Few-Shot Prompting的威力

Few-shot prompting通过向AI提供先前任务的示例，帮助模型更好地理解和完成当前任务。在涉及复杂计算或操作时，它尤其有用。例如，我们可以指导AI在执行数学运算时遵循特定步骤和顺序。

定义工具与模型

我们首先需要定义一些基本的操作工具，如加法和乘法。然后，利用这些工具，我们可以构建一个AI模型来解决特定问题。

from langchain_core.tools import tool

@tool
def add(a: int, b: int) -> int:
    """Adds a and b."""
    return a + b

@tool
def multiply(a: int, b: int) -> int:
    """Multiplies a and b."""
    return a * b

tools = [add, multiply]

接下来，使用ChatOpenAI来绑定工具，并设置模型参数。

import os
from getpass import getpass
from langchain_openai import ChatOpenAI

os.environ["OPENAI_API_KEY"] = getpass()  # 输入API密钥

llm = ChatOpenAI(model="gpt-3.5-turbo-0125", temperature=0)
llm_with_tools = llm.bind_tools(tools)

运用模型与工具

在执行数学运算时，AI模型可能会因为操作顺序问题产生错误结果。我们可以通过few-shot prompting来改善这一点。

llm_with_tools.invoke(
    "Whats 119 times 8 minus 20. Don't do any math yourself, only use tools for math. Respect order of operations"
).tool_calls

应用Few-Shot Prompting

通过添加先前操作的示例，模型可以更准确地调用工具并完成任务。

from langchain_core.messages import AIMessage, HumanMessage, ToolMessage
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnablePassthrough

examples = [
    HumanMessage(
        "What's the product of 317253 and 128472 plus four", name="example_user"
    ),
    AIMessage(
        "",
        name="example_assistant",
        tool_calls=[
            {"name": "Multiply", "args": {"x": 317253, "y": 128472}, "id": "1"}
        ],
    ),
    ToolMessage("16505054784", tool_call_id="1"),
    AIMessage(
        "",
        name="example_assistant",
        tool_calls=[{"name": "Add", "args": {"x": 16505054784, "y": 4}, "id": "2"}],
    ),
    ToolMessage("16505054788", tool_call_id="2"),
    AIMessage(
        "The product of 317253 and 128472 plus four is 16505054788",
        name="example_assistant",
    ),
]

system = """You are bad at math but are an expert at using a calculator. 

Use past tool usage as an example of how to correctly use the tools."""
few_shot_prompt = ChatPromptTemplate.from_messages(
    [
        ("system", system),
        *examples,
        ("human", "{query}"),
    ]
)

chain = {"query": RunnablePassthrough()} | few_shot_prompt | llm_with_tools
chain.invoke("Whats 119 times 8 minus 20").tool_calls