LangChain 快速入门教程（v0.x版本）8000 字精心打磨

关注

原创最新推荐文章于 2026-08-14 12:49:27 发布 976 阅读 AI 写同款· GEO 优化 ›

LangChain v1 构建可控会议纪要流水线会议纪要自动化本质是面向非结构化语音文本的信息蒸馏问题，其核心挑战在于语音识别噪声、上下文信息稀释与大模型事实幻觉。LangChain v1 通过模块化链式架构（AudioLoader→Transcriber→SemanticChunker→RecapChain），实现可调试、可验证、可嵌入的端到端处理能力。相比纯 Whisper+Prompt 方案，它显著降低三层失真；相较 LangChain v2 或 LlamaIndex，v1 提供更清晰的输入输出契约与调试可见性。本方案聚焦真实办公场景中的待办提取、阅读详情

🎯 本文从原理介绍到编程实战详细的阐述了 LangChain 的设计和使用

🎯 大家可以将此文档作为 LangChain 的 “快速进阶” 学习手册，希望帮助您实现 AI 工程的 Bootstrap

1、LangChain 介绍

LangChain 是 2022 年 10 月底，由哈佛大学的 Harrison Chase 发起的基于开源大语言模型用于开发由AI 大语言模型驱动的应用程序的开源框架。旨在帮助开发者构建和部署语言模型的应用程序。
它提供了一个模块化和可扩展的平台，使得整合多个语言模型和其他工具变得容易，从而创建更加强大和灵活的应用。顾名思义，LangChain 中的 “Lang” 是指大语言模型，“Chain” 即 “链”，也就是将大模型与其他组件连接成链，借此构建 AI 工程应用。

🌐 相关资料

github地址
https://github.com/langchain-ai/langchain
官网地址
https://www.langchain.com/langchain
官网文档
https://python.langchain.com/docs/introduction/
中文文档
https://www.langchain.com.cn/
API 文档
https://python.langchain.com/api_reference/
Java版本
https://github.com/langchain4j/langchain4j

1.1 什么是 AI 工程

**🎯目标：**待解决的特定 AI 用户需求。如内容创作、智能问答、文档摘要、图像识别等等。

**🙋‍♂️人：**实施 AI 工程的具体角色。可以是程序员，或者 AI 应用的研发团队、创业公司。

**🔬科学 | 技术：**显然是大模型与相关工具服务，以及其后的计算科学理论。

**📜实体：**已有的文档、知识库、业务数据等生产材料。

**🛠️产品：**能满足目标需求的具体产品。如聊天机器人、内容生成工具等。

因此，LangChain 的设计就是希望构建通用的 AI 工程框架，即：

【目标 | 产品】
LangChain的设计目标是什么，能解决哪些AI工程问题？
【人】
LangChain的编程接口如何定义，才能提升AI工程师的研发效率？
【实体 | 科学 | 技术】
LangChain的核心组件如何抽象，以提升框架的扩展能力？

最终，LangChain 的核心设计思路如下：

作为AI工程框架，LangChain实际是对 LLM 能力的扩展和补充。如果把 LLM 比作人的大脑，LangChain 则是人的躯干和四肢，协助 LLM 完成“思考”之外的“脏活累活”。它的能力边界只取决于LLM 的智力水平和LangChain 能提供的工具集的丰富程度。
LangChain提供了LCEL（LangChain Expression Language）声明式编程语言，降低AI工程师的研发成本。
LangChain提供了Models、Prompts、Indexes、Memory、Chains、Agents六大核心抽象，用于构建复杂的AI应用，同时保持了良好的扩展能力。

1.2 LangChain 的主要特点

1.模型集成：LangChain 支持多种语言模型，包括大型模型如 GPT-3，以及自定义模型。

2.工具连接：LangChain 可以连接到各种工具和API，使得模型能够利用外部资源来增强其回答的准确性和实用性。

3.记忆功能：LangChain 允许应用程序存储和检索对话历史，从而在对话中保持上下文连续性。

4.模块化设计：LangChain 的设计是模块化的，使得开发者可以根据需要轻松地添加或替换组件。

5.多语言支持：LangChain 支持多种编程语言，使得开发者可以使用他们熟悉的语言来构建应用程序。

LangChain 的目标是通过提供一个灵活的框架，使得开发者能够快速构建和迭代语言模型驱动的应用程序，从而推动语言模型的创新和应用。

它使得应用程序能够：

具有上下文感知能力：将语言模型连接到上下文来源（提示指令，少量的示例，需要回应的内容等）
具有推理能力：依赖语言模型进行推理（根据提供的上下文如何回答，采取什么行动等）

1.3 组成部分

LangChain 库：Python 和 JavaScript 库。包含了各种组件的接口和集成，一个基本的运行时，用于将这些组件组合成链和代理，以及现成的链和代理的实现。
LangChain 模板：一系列易于部署的参考架构，用于各种任务。
LangServe：一个用于将 LangChain 链部署为 REST API 的库。
LangSmith：一个开发者平台，让你可以调试、测试、评估和监控基于任何 LLM 框架构建的链，并且与 LangChain 无缝集成。

1.4 简化的应用程序生命周期

开发：在 LangChain/LangChain.js 中编写你的应用程序。使用模板作为参考，快速开始。
生产化：使用 LangSmith 来检查、测试和监控你的链，这样你可以不断改进并有信心地部署。
部署：使用 LangServe 将任何链转换为 API。

2、LangChain 库

2.1 LangChain 包的主要价值

组件：用于处理语言模型的可组合工具和集成。无论你是否使用 LangChain 框架的其余部分，组件都是模块化的，易于使用
现成的链：用于完成高级任务的组件的内置组合

现成的链使得开始变得容易。组件使得定制现有链和构建新链变得容易。

2.2 LangChain 的核心组件

langchain-core：基础抽象和 LangChain 表达式语言。
langchain-community：第三方集成。
langchain：构成应用程序认知架构的链、代理和检索策略。

2.2.1 模型 I/O 封装

LLMs（大语言模型）

这些模型是LangChain积木盒中的基础积木。如同用乐高搭建房屋的地基，LLMs为构建复杂的语言理解和生成任务提供了坚实的基础。

Chat Models（聊天模型）

一般基于 LLMs，但按对话结构重新封装。这些模型就像是为你的乐高小人制作对话能力。它们能够让应用程序进行流畅的对话，好比是给你的乐高积木人注入了会说话的灵魂。

PromptTemple（提示词模板）

想象一下，你正在给乐高小人编写剧本，告诉他们在不同场景下应该说什么。Prompt Templates就是这些剧本，它们指导模型如何回答问题或者生成文本。

OutputParser：解析输出

2.2.2 数据连接封装

Index（索引）

LangChain通过Indexs索引允许文档结构化，让LLM更直接、更有效地与文档互动。

Document Loaders（文档加载器）

各种格式文件的加载器

Document Transformers

对文档的常用操作，如：split, filter, translate, extract metadata, etc

Text Embedding Models（文本嵌入模型）

如果说其他模型让积木能够理解和生成文本，文本嵌入模型则提供了理解文本深度含义的能力。它们就像是一种特殊的积木块，可以帮助其他积木更好地理解每个块应该放在哪里。

Verctor Stores（面向检索的向量存储）

这些是一种特殊的存储设施，帮助你的乐高模型记住文本的数学表示（向量）。这就像是让积木块记住它们在整个结构中的位置。

Retrievers（检索器）

想象一下你需要从一堆积木中找到一个特定的小部件。Retrievers能够快速在向量存储中检索和提取信息，就像是乐高世界里的搜索引擎。

2.2.3 Memory（记忆，对话的连贯性）

这里不是物理内存，从文本的角度，可以理解为“上文”、“历史记录”或者说“记忆力”的管理
Chat Message History（聊天消息历史）

最常见的一种对话内容中的Memory类，这就好比是在你的乐高角色之间建立了一个记忆网络，使它们能够记住过去的对话，这样每次交流都能在之前的基础上继续，使得智能积木人能够在每次对话中保持连贯性。

2.2.4 架构封装（Agent & Chain）

2.2.4.1 Chain

分类：Chain

、LLM Chain、Index-related Chains
**概念：**实现一个功能或者一系列顺序功能组合，Chain 模块整合了大型语言模型、向量数据库、记忆系统及提示，通过Agents的能力拓展至各种工具，形成一个能够互相合作的独立模块网络。它不仅比大模型API更加高效，还增强了模型的各种应用，诸如问答、摘要编写、表格分析和代码理解等。

Chain是连接不同智能积木块的基本方式，而LLM Chain是最简单的 LLM+Prompts 的一种chain，专门用于链接语言模型。Index-related Chains 则将索引功能集成进来，确保信息的高效流动。

2.2.4.2 Agent（智能体）浅识

根据用户输入，自动规划执行步骤，自动选择每步需要的工具，最终完成用户指定的功能。
在LangChain的世界里，Agent是一个智能代理，它的任务是听取你的需求（用户输入）和分析当前的情境（应用场景），然后从它的工具箱（一系列可用工具）中选择最合适的工具来执行操作。这些工具箱里装的是 LangChain 提供的各种积木，比如 Models、Prompts、Indexes 等。

关于 Agent 智能体详细教程，请看下节课《3-4-7 Agent 智能体》

如下图所示，Agent接受一个任务，使用LLM（大型语言模型）作为它的“大脑”或“思考工具”，通过这个大脑来决定为了达成目标需要执行什么操作。它就像是一个有战略眼光的指挥官，不仅知道战场上的每个小队能做什么，还能指挥它们完成更复杂的任务。

LangChain 中 Agent 组件的架构图如下，本质上也是基于 Chain 实现，但是它是一种特殊的 Chain，这个 Chain 是对 Action 循环调用的过程，它使用的 PromptTemplate 主要是符合 Agent Type 要求的各种思考决策模版。Agent 的核心思想在于使用LLM进行决策，选择一系列要执行的动作，并以此驱动应用程序的核心逻辑。通过 Toolkits 中的一组特定工具，用户可以设计特定用例的应用。

》》观察（Observation）

在这个阶段，代理通过其输入接口接收外部的触发，比如用户的提问或系统发出的请求。代理对这些输入进行解析，提取关键信息作为处理的基础。观察结果通常包括用户的原始输入或预处理后的数据。

》》思考（Thought）

在思考阶段，代理使用预先设定的规则、知识库或者利用机器学习模型来分析观察到的信息。这个阶段的目的是确定如何响应观察到的情况。代理可能会评估不同的行动方案，预测它们的结果，并选择最合适的答案或行为。

在 LangChain 中，这个过程可能涉及以下几个子步骤：

**1.理解用户意图：**使用NLP（自然语言处理）技术来理解用户的问题是什么。

**2.推断所需工具：**确定哪个工具（或工具组合）能解决用户的问题。

**3.提取参数：**提取所需工具运行的必要参数。这可能涉及文本解析、关键信息提取和验证等过程。

》》行动（Action）

根据思考阶段的结果，代理将执行特定的行动。行动可能是提供答案、执行任务、调用工具或者与用户进行进一步的交云。

在LangChain代理中，这通常涉及以下几个子步骤：

**1.参数填充：**将思考阶段提取的参数填入对应的工具函数中。

**2.工具执行：**运行工具，并获取执行结果。这可能是查询数据库、运行算法、调用API等。

**3.响应生成：**根据工具的执行结果构建代理的响应。响应可以是纯文本消息、数据、图像或其他格式。

4.**输出：**将生成的响应输出给用户或系统。

2.2.4.3 Agent推理方式：AgentType

代理类型决定了代理如何使用工具、处理输入以及与用户进行交互，就像给机器人挑选不同的大脑一样，我们有很多种"智能代理"可以根据需要来选择。有的代理是为聊天模型（接收消息，输出消息）设计的，可以支持聊天历史；有的代理更适合单一任务，是为大语言模型（接收字符串，输出字符串）而设计的。而且，这些代理的能力也不尽相同：有的能记住你之前的对话（支持聊天历史），有的能同时处理多个问题（支持并行函数调用），也有的只能专心做一件事（适用于单一任务）。此外，有些代理需要我们提供一些额外信息才能更好地工作（所需模型参数），而有些则可以直接上手，不需要额外的东西。所以，根据你的需求和你所使用的模型，你可以选择最合适的代理来帮你完成任务，常见的代理类型如下：

2.2.4.4 Agent与Chain的关系

如果说 Chain 是 LangChain 中的基础连接方式，那么 Agent 就是更高阶的版本，它不仅可以绑定模板和 LLM，还能够根据具体情况添加或调整使用的工具。简单来说，如果 Chain 是一条直线，那么 Agent就是能够在多个路口根据交通情况灵活选择路线的专业司机。

2.2.5 Callbacks

3、编程：手撕 LangChain

🎯 代码能力要求：中高，AI/数学基础要求：无

有编程基础的同学

关注设计思路，实现细节

没有编程基础的同学

尽量理解 SDK 的概念和价值，尝试体会使用 SDK 前后的差别与意义

3.1 模型 API：LLM vs ChatModel

🎯****关于代理地址与 api_key

如下演示中，我手动设置了代理地址 base_url 以及 api_key。这是我搭建的一个企业中转地址，支持 OpenAI、Deepseek、Claude、gemini、midjourney、文心一言、通义千问等众多模型，使用方便、稳定、价美。如果大家有需要可以私信我获取【LHYYH0001】

🎯****准备工作

先将 .env.templet 文件重命名为 .env 后配置你的 url 以及 key 即可。
你也可以直接创建 .env 然后配置：TONGYI_KEY、OPENAI_API_KEY、OPENAI_BASE_URL

pip install --upgrade langchain
pip install --upgrade langchain-openai
pip install --upgrade langchain-community
● 安装 doenv
○ pip install dotenv
○ 如果上面命令报错，请尝试：pip install python-dotenv
● 引入模块
import os
from dotenv import load_dotenv, find_dotenv
_ = load_dotenv(find_dotenv())

3.1.1 LangChain 调用 OpenAI Chat 接口

import os
from dotenv import load_dotenv, find_dotenv
_ = load_dotenv(find_dotenv())
from langchain_openai import ChatOpenAI
# 在 .env 文件中配置你的 url 以及 key 即可
api_key = os.getenv('OPENAI_API_KEY')
base_url = os.getenv('OPENAI_BASE_URL')
llm = ChatOpenAI(model="gpt-4o",
temperature=0,
max_tokens=None,
timeout=None,
max_retries=2,
api_key=api_key,
base_url=base_url)
response = llm.invoke("你是谁")
# 我是一个由OpenAI开发的人工智能助手，旨在帮助回答问题、提供信息和协助完成各种任务。你可以问我任何问题，我会尽力提供有用的回答。有什么我可以帮你的吗？
print(response.content)

3.1.2 多轮对话 session 封装

import os
from dotenv import load_dotenv, find_dotenv
_ = load_dotenv(find_dotenv())
from langchain_openai import ChatOpenAI
# 在 .env 文件中配置你的 url 以及 key 即可
api_key = os.getenv('OPENAI_API_KEY')
base_url = os.getenv('OPENAI_BASE_URL')
llm = ChatOpenAI(model="gpt-4o",
temperature=0,
max_tokens=None,
timeout=None,
max_retries=2,
api_key=api_key,
base_url=base_url)
from langchain.schema import (
AIMessage,  # 等价于OpenAI接口中的assistant role
HumanMessage,  # 等价于OpenAI接口中的user role
SystemMessage  # 等价于OpenAI接口中的system role
)
messages = [
SystemMessage(content="你是AGIClass的课程助理。"),
HumanMessage(content="我是学员，我叫王卓然。"),
AIMessage(content="欢迎！"),
HumanMessage(content="我是谁")
]
ret = llm.invoke(messages)
print(ret.content)

3.1.3 LangChain 调用国产文心一言模型

🎯 其它模型分装在 langchain_community 底包中

📌 如下是文心一言与通义千问的调用示例

# 其它模型分装在 langchain_community 底包中
from langchain_community.chat_models import QianfanChatEndpoint
from langchain_core.messages import HumanMessage
import os
from dotenv import load_dotenv, find_dotenv
_ = load_dotenv(find_dotenv())
ERNIE_CLIENT_ID={你的ERNIE_CLIENT_ID}
ERNIE_CLIENT_SECRET={你的ERNIE_CLIENT_SECRET}
llm = QianfanChatEndpoint(
qianfan_ak=ERNIE_CLIENT_ID,
qianfan_sk=ERNIE_CLIENT_SECRET
)
messages = [
HumanMessage(content="介绍一下你自己")
]
ret = llm.invoke(messages)
print(ret.content)

LangChain 中不支持企业转发，需要使用通义千问官方的 key

import os
from dotenv import load_dotenv, find_dotenv
_ = load_dotenv(find_dotenv())
# 其它模型分装在 langchain_community 底包中
from langchain_community.chat_models import ChatTongyi
# LangChain 中不支持企业转发，需要使用通义千问官方的 key
TONGYI_KEY = os.getenv('TONGYI_KEY')
tongyi_chat = ChatTongyi(
api_key=TONGYI_KEY
)
messages = [
("system", "你是「AI大模型全栈通识课」的课程助理。你叫AGI舰长。微信号：LHYYH0001"),
("human", "你是谁？"),
]
ai_msg = tongyi_chat.invoke(messages)
print(ai_msg.content)

3.2 Prompt 模版封装

**🎯****划重点：**把Prompt模板看作带有参数的函数

如下代码我拆成了三段，开源课件源码中对应的是 langchain_002.py

3.2.1 PromptTemplate 可以在模板中自定义变量

import os
from dotenv import load_dotenv, find_dotenv
_ = load_dotenv(find_dotenv())
from langchain.prompts import PromptTemplate
from langchain_openai import ChatOpenAI
from langchain_core.messages import AIMessage, HumanMessage
############################# 1、PromptTemplate 模版 #############################
# 1.1 模版的原理
template = PromptTemplate.from_template("给我讲个关于{subject}的笑话")
print("===Template===")
print(template)
print("===Prompt===")
print(template.format(subject='小明'))
#  1.2 调用大模型
api_key = os.getenv('OPENAI_API_KEY')
base_url = os.getenv('OPENAI_BASE_URL')
# 定义 LLM
llm = ChatOpenAI(api_key=api_key,base_url=base_url)
# 通过 Prompt 调用 LLM
ret = llm.invoke(template.format(subject='小明'))
# 打印输出
print("===调用大模型效果===")
print(ret.content)

效果

3.2.2 ChatPromptTemplate 用模板表示的对话上下文

import os
from dotenv import load_dotenv, find_dotenv
_ = load_dotenv(find_dotenv())
from langchain.prompts import PromptTemplate
from langchain_openai import ChatOpenAI
from langchain_core.messages import AIMessage, HumanMessage
############################# 2、ChatPromptTemplate 用模板表示的对话上下文 #############################
from langchain.prompts import (
ChatPromptTemplate,
HumanMessagePromptTemplate,
SystemMessagePromptTemplate,
MessagesPlaceholder,
HumanMessagePromptTemplate,
MessagesPlaceholder,
)
api_key = os.getenv('OPENAI_API_KEY')
base_url = os.getenv('OPENAI_BASE_URL')
# 定义 LLM
llm = ChatOpenAI(api_key=api_key,base_url=base_url)
template = ChatPromptTemplate.from_messages(
[
SystemMessagePromptTemplate.from_template(
"你是{product}的客服助手。你的名字叫{name}"),
HumanMessagePromptTemplate.from_template("{query}"),
]
)
llm = ChatOpenAI()
prompt = template.format_messages(
product="AI大模型全栈通识课",
name="AGI舰长",
query="你是谁"
)
print("\n\n =======对话上下文 prompt=======\n", prompt)
ret = llm.invoke(prompt)
print(ret.content)

效果

3.2.3 MessagesPlaceholder 把多轮对话变成模板

import os
from dotenv import load_dotenv, find_dotenv
_ = load_dotenv(find_dotenv())
from langchain.prompts import PromptTemplate
from langchain_openai import ChatOpenAI
from langchain_core.messages import AIMessage, HumanMessage
############################# 2、ChatPromptTemplate 用模板表示的对话上下文 #############################
from langchain.prompts import (
ChatPromptTemplate,
HumanMessagePromptTemplate,
SystemMessagePromptTemplate,
MessagesPlaceholder,
HumanMessagePromptTemplate,
MessagesPlaceholder,
)
api_key = os.getenv('OPENAI_API_KEY')
base_url = os.getenv('OPENAI_BASE_URL')
# 定义 LLM
llm = ChatOpenAI(api_key=api_key,base_url=base_url)
############################# 2、MessagesPlaceholder 把多轮对话变成模板 #############################
# 3.1 模版设定
human_prompt = "将你的回答翻译成 {language}."
human_message_template = HumanMessagePromptTemplate.from_template(human_prompt)
chat_prompt = ChatPromptTemplate.from_messages(
[MessagesPlaceholder("history"), human_message_template]
)
# 3.2 模版转换
human_message = HumanMessage(content="Who is Elon Musk?")
ai_message = AIMessage(
content="Elon Musk is a billionaire entrepreneur, inventor, and industrial designer"
)
messages = chat_prompt.format_prompt(
# 对 "history" 和 "language" 赋值
history=[human_message, ai_message], language="中文"
)
print('\n\n模版转换后的 prompt ===\n', messages.to_messages())
# 3.3 请求大模型
result = llm.invoke(messages)
print('大模型返回结果 =====\n', result.content)

效果

3.2.4 从文件加载 Prompt 模板

本地新建一个文件 本地文件.txt，内容如下

AI大模型全栈通识教程-适宜人群
🎓 学历要求：高中及以上学历
👍 偷偷的努力，然后惊艳所有人！
🎓 做懂业务，懂开发，懂AI；会使用，会微调，会绘画的三懂三会人才，成为中国第一批AI大模型全栈工程师
🙋 专业人士，可以不学； 小白/基础薄弱的，建议都来学！
● 中年职场人：职业发展陷入瓶颈，降薪、裁员，渴望破局
● 初入职场人：找工作困难，渴望挑战高薪，提升职场竞争力
● 家庭主妇/宝妈/失业人群：时间充裕，寻求简单的副业机会
● 企业家：有公司，人力成本高，产出低，需要降本增效
● 青少年：培养青少年 AI 兴趣与创造力，树立良好启蒙
作者：AGI舰长
教程介绍：https://www.yuque.com/lhyyh/agi/introduce

代码执行

############################# 3、从文件加载 Prompt 模板 #############################
template = PromptTemplate.from_file("本地文件.txt")
print("\n\n===Template===")
print(template)
print("===Prompt===")
print(template.format(topic='AI大模型全栈通识教程-适宜人群'))

效果

3.3 RAG必用技术：文档处理向量检索

3.3.1 文档加载器 Document Loaders

import os
from dotenv import load_dotenv, find_dotenv
_ = load_dotenv(find_dotenv())
from langchain_openai import ChatOpenAI
from langchain_community.document_loaders import PyMuPDFLoader
############################# 1、PromptTemplate 模版 #############################
#  1.2 调用大模型
api_key = os.getenv('OPENAI_API_KEY')
base_url = os.getenv('OPENAI_BASE_URL')
# 定义 LLM
llm = ChatOpenAI(api_key=api_key,base_url=base_url)
# pip install fitz pymupdf
loader = PyMuPDFLoader("AI大模型全栈通识课介绍.pdf")
pages = loader.load_and_split()
print(pages[0].page_content)

3.3.2 文档处理器 TextSplitter

🎯****类似 LlamaIndex，LangChain 也提供了丰富的文档处理工具：

Document****Loaders：

https://python.langchain.com/v0.2/docs/how_to/#document-loaders
Text Splitters：

https://python.langchain.com/v0.2/docs/how_to/#text-splitters

pip install --upgrade langchain-text-splitters

from langchain_text_splitters import RecursiveCharacterTextSplitter
# 初始化RecursiveCharacterTextSplitter文本分隔器
# 设置分隔器的参数，用于控制文本分割的行为
text_splitter = RecursiveCharacterTextSplitter(
# 每个文本块的最大大小为200个字符
chunk_size=200,
# 文本块之间的重叠大小为100个字符，确保上下文的连贯性
chunk_overlap=100,
# 使用len函数计算文本长度
length_function=len,
# 在每个文本块的开始位置添加索引，便于后续处理时定位信息源
add_start_index=True,
)
paragraphs = text_splitter.create_documents([pages[0].page_content])
for para in paragraphs:
print(para.page_content)
print('-------')

3.3.3 向量数据库与向量检索

更多的三方检索组件链接参考
https://python.langchain.com/v0.2/docs/integrations/vectorstores/

from langchain_openai import OpenAIEmbeddings
from langchain_text_splitters import RecursiveCharacterTextSplitter
from langchain_community.vectorstores import FAISS
from langchain_openai import ChatOpenAI
from langchain_community.document_loaders import PyMuPDFLoader
# 加载文档
loader = PyMuPDFLoader("AI大模型全栈通识课介绍.pdf")
pages = loader.load_and_split()
# 文档切分
text_splitter = RecursiveCharacterTextSplitter(
chunk_size=300,
chunk_overlap=100,
length_function=len,
add_start_index=True,
)
texts = text_splitter.create_documents(
[page.page_content for page in pages[:4]]
)
# 灌库
embeddings = OpenAIEmbeddings(model="text-embedding-ada-002")
db = FAISS.from_documents(texts, embeddings)
# 检索 top-3 结果
retriever = db.as_retriever(search_kwargs={"k": 3})
docs = retriever.invoke("llama2有多少参数")
for doc in docs:
print(doc.page_content)
print("----")

4、LangServe & LangChain.js【选】

4.1 LangServe

**🎯****定义：**LangServe 用于将 Chain 或者 Runnable 部署成一个 REST API 服务。

pip install --upgrade "langserve[all]"
# 也可以只安装一端
pip install "langserve[client]"
pip install "langserve[server]"

# server 端
#!/usr/bin/env python
from fastapi import FastAPI
from langchain.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI
from langserve import add_routes
import uvicorn
app = FastAPI(
title="LangChain Server",
version="1.0",
description="A simple api server using Langchain's Runnable interfaces",
)
model = ChatOpenAI()
prompt = ChatPromptTemplate.from_template("讲一个关于{topic}的笑话")
add_routes(
app,
prompt | model,
path="/joke",
)
if __name__ == "__main__":
uvicorn.run(app, host="localhost", port=9999)

# client 端
import requests
response = requests.post(
"http://localhost:9999/joke/invoke",
json={'input': {'topic': '小明'}}
)
print(response.json())

4.2 LangChain.js

Python 版 LangChain 的姊妹项目，都是由 Harrison Chase 主理。

项目地址

https://github.com/langchain-ai/langchainjs
文档地址

https://js.langchain.com/docs/
特色：

可以和 Python 版 LangChain 无缝对接
抽象设计完全相同，概念一一对应
所有对象序列化后都能跨语言使用，但 API 差别挺大，不过在努力对齐

支持环境：

Node.js (ESM and CommonJS) - 18.x, 19.x, 20.x
Cloudflare Workers
Vercel / Next.js (Browser, Serverless and Edge functions)
Supabase Edge Functions
Browser
Deno

安装：npm install langchain

4.3 LangChain 与 LlamaIndex 的错位竞争

LangChain 侧重与 LLM 本身交互的封装

Prompt、LLM、Message、OutputParser 等工具丰富
在数据处理和 RAG 方面提供的工具相对粗糙
主打 LCEL 流程封装
配套 Agent、LangGraph 等智能体与工作流工具
另有 LangServe 部署工具和 LangSmith 监控调试工具

LlamaIndex 侧重与数据交互的封装

数据加载、切割、索引、检索、排序等相关工具丰富
Prompt、LLM 等底层封装相对单薄
配套实现 RAG 相关工具
有 Agent 相关工具，不突出

LlamaIndex 为 LangChain 提供了集成

在 LlamaIndex 中调用 LangChain 封装的 LLM 接口
https://docs.llamaindex.ai/en/stable/api_reference/llms/langchain/
将 LlamaIndex 的 Query Engine 作为 LangChain Agent 的工具
https://docs.llamaindex.ai/en/v0.10.17/community/integrations/using_with_langchain.html
LangChain 也曾经集成过 LlamaIndex，目前相关接口仍在
https://api.python.langchain.com/en/latest/retrievers/langchain_community.retrievers.llama_index.LlamaIndexRetriever.html

过几天更新 Langchain v1.0 版本变化，感兴趣小伙伴可以点个关注～

想入门 AI 大模型却找不到清晰方向？备考大厂 AI 岗还在四处搜集零散资料？别再浪费时间啦！2025 年 AI 大模型全套学习资料已整理完毕，从学习路线到面试真题，从工具教程到行业报告，一站式覆盖你的所有需求，现在全部免费分享！

👇👇扫码免费领取全部内容👇👇