技术背景介绍
由李开复博士创立的 01.AI 是全球 AI 2.0 的领军企业,推出了 Yi 系列大型语言模型 (LLMs),其模型参数范围从 60 亿到上千亿,并支持多模态模型和开源选项(如 Yi-34B/9B/6B 和 Yi-VL)。Yi LLM 提供开放 API,支持各种开发场景,特别适合中文及全球市场。本文将指导你如何通过 LangChain 与 Yi LLM 集成,快速实现自然语言生成及其他高级 AI 能力。
核心原理解析
LangChain 是一个强大的开源框架,用于构建基于语言模型的应用程序。通过 langchain-community
插件,你可以轻松连接 Yi LLM,利用其强大的生成能力。Yi LLM 提供灵活的模型选择(如 yi-large
),并允许配置生成参数(温度、Top-p 等),支持同步与异步流式处理等多种访问方式。
代码实现演示
-
安装必要的依赖包
使用 pip 安装
langchain-community
包:%pip install -qU langchain-community
-
准备工作
使用 Yi LLM API 需要申请 API Key。访问 灵驿万物 获取你的 API Key。申请时需要区分国内(中国)或国际使用。
-
代码实现
以下是完整的示例代码,展示如何加载和调用 Yi LLM:
import os from langchain_community.llms import YiLLM # 设置 API Key 环境变量 os.environ["YI_API_KEY"] &