在本快速入门中,我们将向您展示如何构建一个简单的LLM应用程序。该应用程序将文本从英语翻译成另一种语言。这是一个相对简单的LLM应用程序——它只是一个LLM调用加上一些提示。尽管如此,这仍然是开始使用LangChain的好方法——只需一些提示和一个LLM调用,就可以构建许多功能!
概念
我们将涵盖的概念是:
- 使用语言模型
- 使用PromptTemplates和OutputParsers
- 使用LangChain链接PromptTemplate + LLM + OutputParser
- 使用LangSmith调试和跟踪您的应用程序
- 使用LangServe部署您的应用程序
这是一些需要涵盖的内容!让我们开始吧。
目标
在本文档中,我们将构建一个应用程序,实现:利用大语言模型,将用户输入从一种语言翻译成另一种语言。
环境设置
Jupyter Notebook
本指南(以及留档中的大多数其他指南)使用 Jupyter 笔记本 。Jupyter笔记本非常适合学习如何使用LLM系统,因为经常会出错(意外输出、API关闭等),在交互式环境中浏览指南是更好地理解它们的好方法。
安装 LangChain
要安装LangChain,请运行:
pip install langchain
有关更多详细信息,请参阅我们的安装指南。
LangSmith
我们使用 LangChain 构建的许多应用程序都包含多个步骤和多次调用LLM调用。随着这些应用程序变得越来越复杂,能够检查链或代理内部发生的情况变得至关重要。最好的方法是使用 LangSmith。
注册 LangSmith
LangSmith 在链接上注册后,请确保设置您的环境变量以开始记录跟踪:
export LANGCHAIN_TRACING_V2="true"
export LANGCHAIN_API_KEY="..."
或者,如果在笔记本中,您可以使用以下方式设置它们:
import getpass
import os
os.environ["LANGCHAIN_TRACING_V2"] = "true"
os.environ["LANGCHAIN_API_KEY"] = getpass.getpass()
创建API密钥
要创建 设置页面 的API密钥头。然后单击创建API密钥。
安装 LangSmith 依赖
pip install -U langsmith
至此,我们的初步准备工作已完成。
LangServe
LangServe 帮助开发者部署 LangChain 可运行文件和链作为 REST API。
安装 LangServe
安装客户端和服务器:
pip install "langserve[all]"
或者只安装客户端:
pip install "langserve[client]"
只安装服务器
pip install "langserve[server]"
先介绍到这,下面会讲解如何部署和调用我们的 LangChain 程序。
选择大语言模型
首先,让我们学习如何单独使用语言模型。LangChain 支持许多不同的语言模型,您可以选择想要使用的模型!