探索 Qianfan 平台:使用 Langchain 进行大规模聊天模型的开发
引言
Baidu AI Cloud 的 Qianfan 平台是一站式的大模型开发与运营平台,特别适合企业级开发者。该平台不仅提供了如文心一言(ERNIE-Bot)等大型模型,还支持多种开源模型,使得大模型应用的开发更加便捷。在本文中,我们将介绍如何使用 Langchain 与 Qianfan 的聊天模型进行交互。
主要内容
API 初始化
在使用基于百度 Qianfan 的 LLM 服务之前,必须初始化必要的参数。AK(Access Key)和 SK(Secret Key)可以通过设置环境变量的方式进行初始化:
export QIANFAN_AK=XXX
export QIANFAN_SK=XXX
支持的模型
Qianfan 平台当前支持的模型包括:
- ERNIE-Bot-turbo(默认模型)
- ERNIE-Bot
- BLOOMZ-7B
- Llama-2 系列
- Qianfan 系列
- ChatGLM2-6B-32K 等
使用 Langchain 进行聊天模型开发
使用 Langchain 开发聊天模型应用程序非常简单。以下是一个基本的初始化和调用示例:
import os
from langchain_community.chat_models import QianfanChatEndpoint
from langchain_core.language_models<