如何用一行代码初始化任意模型：简化LLM集成-优快云博客

本文链接：https://blog.youkuaiyun.com/tt_jishu/article/details/143123168

引言

在现代AI应用中，允许终端用户指定所需的模型提供者和模型，是提高灵活性的重要功能。然而，这通常需要开发者编写额外的逻辑来根据用户配置初始化不同的模型。本文将介绍如何使用init_chat_model()方法以简化这一过程，实现模型初始化的一体化解决方案。

主要内容

`init_chat_model()`方法

init_chat_model()是一个帮助方法，可以在不需要担心导入路径和类名的情况下，轻松初始化多种模型集成。这对于开发多提供者支持的应用程序尤为便利。

支持的模型

要支持不同的模型提供者，请确保安装了相关的集成包。例如，初始化OpenAI模型需要安装langchain-openai。使用这个方法之前，请确保你的langchain-core包更新至0.2.8或更高版本。

%pip install -qU langchain>=0.2.8 langchain-openai langchain-anthropic langchain-google-vertexai

基本用法

以下代码展示了如何使用init_chat_model()方法初始化不同的聊天模型：

from langchain.chat_models import init_chat_model

# 使用API代理服务提高访问稳定性
gpt_4o = init_chat_model("gpt-4o", model_provider="openai", temperature=0)
claude_opus = init_chat_model("claude-3-opus-20240229", model_provider="anthropic", temperature=0)
gemini_15 = init_chat_model("gemini-1.5-pro", model_provider="google_vertexai", temperature=0)

print("GPT-4o: " + gpt_4o.invoke("what's your name").content + "\n")
print("Claude Opus: " + claude_opus.invoke("what's your name").content + "\n")
print("Gemini 1.5: " + gemini_15.invoke("what's your name").content + "\n")

推断模型提供者

对于一些常见且特定的模型名称，init_chat_model()会尝试推断模型提供者。例如，以gpt-3或gpt-4开头的模型名将被视为OpenAI提供的模型。

gpt_4o = init_chat_model("gpt-4o", temperature=0)
claude_opus = init_chat_model("claude-3-opus-20240229", temperature=0)
gemini_15 = init_chat_model("gemini-1.5-pro", temperature=0)

可配置模型

你还可以通过指定configurable_fields来创建一个可在运行时配置的模型。

configurable_model = init_chat_model(temperature=0)

configurable_model.invoke(
    "what's your name", config={"configurable": {"model": "gpt-4o"}}
)