如何为工具添加人类参与环节

在某些情况下，我们不完全信任模型能够自行执行特定工具。这时，我们可以在工具调用之前加入人类审批环节。本文将演示如何在Jupyter Notebook或终端中添加简单的人类参与机制。不过，需要注意的是，如果要构建生产级应用程序，还需要更多工作来适当跟踪应用程序状态。我们推荐使用LangGraph来增强这种功能，更多细节请参考LangGraph指南。

技术背景介绍

随着人工智能和自动化工具的广泛应用，如何确保工具的安全和有效执行成为一大挑战。为此，我们可以在工具调用的流程中加入人类审批的环节，以提升工具调用的可靠性。

核心原理解析

核心想法是将工具调用封装到一个链中，并在执行工具之前，询问用户是否同意工具执行的请求。如果用户拒绝请求，则抛出异常，停止执行。通过这种方式，我们可以确保只有经过人类验证的请求才会被执行。

代码实现演示

首先，我们需要安装必要的Python包：

%pip install --upgrade --quiet langchain

环境变量设置

确保环境变量设置正确，以便访问不同的API服务：

import os
import getpass

os.environ["OPENAI_API_KEY"] = getpass.getpass("Enter OpenAI API Key: ")

定义工具和调用链

创建一些简单工具并将它们绑定到工具调用链中：

from typing import Dict, List
from langchain_core.messages import AIMessage
from langchain_core.tools import tool

@tool
def count_emails(last_n_days: int) -> int:
    """返回过去几天的邮件数量"""
    return last_n_days * 2

@tool
def send_email(message: str, recipient: str) -> str:
    """向收件人发送邮件并返回确认信息"""
    return f"成功发送邮件到 {recipient}."

tools = [count_emails, send_email]

# 绑定工具到LLM
llm_with_tools = llm.bind_tools(tools)

def call_tools(msg: AIMessage) -> List[Dict]:
    """简单的顺序工具调用助手"""
    tool_map = {tool.name: tool for tool in tools}
    tool_calls = msg.tool_calls.copy()
    for tool_call in tool_calls:
        tool_call["output"] = tool_map[tool_call["name"]].invoke(tool_call["args"])
    return tool_calls

chain = llm_with_tools | call_tools

添加人类审批环节

插入人类审批环节以决定是否继续执行工具：

import json

class NotApproved(Exception):
    """自定义异常类"""

def human_approval(msg: AIMessage) -> AIMessage:
    """负责决定是否允许工具调用继续"""
    tool_strs = "\n\n".join(json.dumps(tool_call, indent=2) for tool_call in msg.tool_calls)
    input_msg = (
        f"您是否同意执行以下工具调用\n\n{tool_strs}\n\n"
        "输入'Y'/'Yes'（不区分大小写）将被视为允许。\n >>>"
    )
    resp = input(input_msg)
    if resp.lower() not in ("yes", "y"):
        raise NotApproved(f"工具调用未被批准:\n\n{tool_strs}")
    return msg

chain = llm_with_tools | human_approval | call_tools

try:
    chain.invoke("how many emails did i get in the last 5 days?")
except NotApproved as e:
    print(e)

测试工具调用

测试人类审批机制：

try:
    chain.invoke("Send sally@gmail.com an email saying 'What's up homie'")
except NotApproved as e:
    print(e)

应用场景分析

适用于需要在敏感或关键任务中引入人类监管的自动化工具场景。例如，在财务系统中执行自动支付流程时加入人类审核环节，可有效避免错误和潜在风险。

实践建议

• 合理设置工具调用的审批流程以确保效率。
• 使用专业工具完善审批机制，如LangGraph。
• 定期评估和改进人类审批的标准和流程。

如果遇到问题欢迎在评论区交流。
—END—