[实现动态参数注入：在LangChain工具中如何安全地传递运行时值]

本文链接：https://blog.youkuaiyun.com/tt_jishu/article/details/144202117

实现动态参数注入：在LangChain工具中如何安全地传递运行时值

引言

使用大型语言模型（LLM）进行应用开发时，常常需要处理一些仅在运行时才知道的参数，例如用户的ID。让LLM掌控这些参数可能会引发安全问题。因此，我们需要一种机制来确保这些参数的安全和稳定性。本篇文章将详细介绍如何在LangChain工具中安全地将运行时值注入到工具调用中。

主要内容

动态参数注入的需求

很多时候，我们需要让某些参数（如用户ID）在运行时被精确控制，而其他参数则由LLM生成。允许LLM控制诸如用户ID这样的参数可能带来安全风险。因此，我们需要在工具中隐式地注入这些参数。

使用LangChain实现动态参数注入

在LangChain中，我们可以使用InjectedToolArg注释来标记某些参数要求在运行时注入，而不是通过模型生成。本文会通过代码示例详细介绍这种注入方式。

代码示例

以下是一个使用LangChain实现动态参数注入的完整示例：

from typing import List
from langchain_core.tools import InjectedToolArg, tool
from typing_extensions import Annotated

user_to_pets = {}

@tool(parse_docstring=True)
def update_favorite_pets(
    pets: List[str], user_id: Annotated[str, InjectedToolArg]
) -> None:
    """Add the list of favorite pets.
    Args:
        pets: List of favorite pets to set.
        user_id: User's ID.
    """
    user_to_pets[user_id] = pets

@tool(parse_docstring=True)
def list_favorite_pets(user_id: Annotated[str, InjectedToolArg]) -> List[str]:
    """List favorite pets if any.
    Args:
        user_id: User's ID.
    """
    return user_to_pets.get(user_id, [])

user_id = "123"
update_favorite_pets.invoke({"pets": ["lizard", "dog"], "user_id": user_id})
print(user_to_pets) # 输出: {'123': ['lizard', 'dog']}