开始使用Google Cloud的ChatVertexAI实现智能对话_google sdk 为chatvertexai单独设置proxy-优快云博客

本文链接：https://blog.youkuaiyun.com/tt_jishu/article/details/143638379

引言

随着人工智能技术的发展，基于对话的应用越来越普遍。本文将介绍如何使用Google Cloud的VertexAI中的ChatVertexAI模型来创建智能对话应用。我们将探讨一些实用的知识、代码示例，以及可能会遇到的挑战和解决方案。

主要内容

什么是ChatVertexAI？

ChatVertexAI是Google Cloud提供的一组高级对话模型。它们包括诸如gemini-1.5-pro和gemini-1.5-flash等模型版本，均具有强大的自然语言处理能力。

Google Cloud VertexAI vs Google PaLM

值得注意的是，Google Cloud VertexAI是独立于Google PaLM的服务。企业版的PaLM通过GCP提供，支持多种AI模型。

环境设置

要使用VertexAI模型，您需要创建Google Cloud Platform账户、设置凭证，并安装langchain-google-vertexai集成包。以下是一些基本步骤：

凭证配置

确保为环境配置了凭证（gcloud、workload identity等）。
将服务账户JSON文件的路径存储为GOOGLE_APPLICATION_CREDENTIALS环境变量。

更多信息请访问：

Google Cloud Authentication Documentation

安装

使用以下命令安装LangChain VertexAI集成包：

%pip install -qU langchain-google-vertexai

模型实例化与调用

创建模型实例并生成对话：

from langchain_google_vertexai import ChatVertexAI

llm = ChatVertexAI(
    model="gemini-1.5-flash-001",  # 选择模型
    temperature=0,  # 控制生成文本的随机性
    max_tokens=None,
    max_retries=6,
    stop=None,
)

messages = [
    ("system", "You are a helpful assistant that translates English to French. Translate the user sentence."),
    ("human", "I love programming."),
]

ai_msg = llm.invoke(messages)
print(ai_msg.content)  # 结果输出: J'adore programmer.

链式调用

我们可以使用提示模板实现对话流的链式调用：

from langchain_core.prompts import ChatPromptTemplate

prompt = ChatPromptTemplate.from_messages(
    [
        ("system", "You are a helpful assistant that translates {input_language} to {output_language}."),
        ("human", "{input}"),
    ]
)

chain = prompt | llm
response = chain.invoke(
    {
        "input_language": "English",
        "output_language": "German",
        "input": "I love programming.",
    }
)
print(response.content)  # 结果输出: Ich liebe Programmieren.