LangChain保姆级教程！调试、评估、部署全流程避坑指南，收藏这篇就够了！

引言：从开发到生产

开发一个LLM应用可能很快，但将其部署到生产环境，并保证其稳定、高效、准确地运行，则是一个更具挑战性的过程。你可能会遇到：

• 调试困难： 链条太长，不知道在哪一步出了问题。
• 性能瓶颈： 响应速度慢，Token消耗过高。
• 质量下降： 模型回答不准确，出现幻觉。
• 部署复杂： 如何将Python代码转化为可访问的API服务。
• 缺乏监控： 无法实时了解应用的运行状态。

本期将提供一套“组合拳”，帮助你解决这些问题，确保你的RAG系统能够成功上线并持续优化。

---

第一部分：LangSmith——LLM应用的评估利器

LangSmith 是 LangChain 官方推出的一款平台，专门用于 LLM 应用的调试、测试、评估和监控。它是 LangChain 生态中最重要的工具之一，强烈推荐在开发和生产中使用。

1. 调试与追踪 (Tracing)：

• LangSmith 能可视化你的 LangChain 链条的每一步执行，包括每个 Runnable 的输入、输出、耗时、Token使用量以及中间的错误信息。

【实践：配置并使用 LangSmith 进行追踪】

首先，你需要注册一个 LangSmith 账号 (opens in https://smith.langchain.com/).如下：

然后，获取你的 API Key 和 Project Name，并设置为环境变量。

from dotenv import load_dotenv

操作步骤： 运行上述代码后，登录 smith.langchain.com，进入你设置的项目。你会看到每次 invoke 对应的一条 Trace (追踪记录)。点击进入，你就能看到一个可视化的链条图，展示了数据如何流经 create_history_aware_retriever (其中包含LLM调用)、create_retrieval_chain、create_stuff_documents_chain 等各个组件，每个组件的输入、输出、耗时、Token使用量都会清晰展示。这对于调试复杂链条是革命性的。效果如下：

这里需要说明的是LangSmith 实际上是收费的平台，当然也可以免费使用，但是在真实场景下可能牵扯到数据安全问题，如果想本地部署LLM监控可以使用Langfuse，效果都是差不多的

2. 评估 (Evaluation)：

• LangSmith 提供了强大的评估功能，你可以创建数据集（Dataset），然后运行你的链条，并自动或手动评估其输出。
• 指标：

• 自动评估： LangSmith 可以调用LLM（Evaluator LLM）来评估答案的忠实度（Faithfulness）、相关性（Relevance）、流畅性（Fluency）等。
• 人工评估： 你可以定义自己的评分标准，手动给每个回答打分。

• 这对于衡量RAG系统的迭代优化效果至关重要。

简要说明 LangSmith 评估流程：

1. 创建数据集 (Dataset)： 在 LangSmith 中创建输入-输出对（如问题-期望答案）。
2. 绑定测试： 将你的 LangChain 链与数据集绑定，运行测试。
3. 运行评估器： 选择内置的LLM评估器（如 FaithfulnessEvaluator）或自定义评估器，对测试结果进行自动评分。
4. 分析结果： 查看评估报告，找出低分案例，分析问题根源，指导优化。

这里也只是简单的说明下LangSmith的评估怎么使用，我在真实场景习惯用Ragas和Evalscope做评测。

---

第二部分：部署——让RAG应用可访问

一旦LangChain应用开发和测试完毕，下一步就是将其部署为可供其他服务或用户调用的API。

1. LangServe (推荐)：快速构建REST API

• LangServe 是 LangChain 官方提供的一种快速部署 LCEL Runnable 作为 REST API 的工具。
• 它构建在 FastAPI 之上，提供开箱即用的 /invoke, /stream, /batch, /feedback, /playground 等端点。
• 部署非常简单，适合快速原型开发和生产环境部署。
• 安装：pip install “langserve[all]” (会安装 uvicorn, fastapi, pydantic)

【实践：使用 LangServe 部署 RAG 应用】

步骤 A: 创建 server.py 文件

import os

步骤 B: 运行服务器

在终端中，进入 app 文件夹的父目录，然后执行：

python -m uvicorn app.server:app --reload --host 0.0.0.0 --port 8000

–reload：代码修改后自动重启服务器。

–host 0.0.0.0：允许从任何IP地址访问。

–port 5432：在5432端口运行。

步骤 C: 测试 API

打开浏览器访问 http://localhost:5432/rag-chatbot/playground。你会看到一个简单的UI，可以直接与你的RAG机器人交互。

也可以使用 Postman 或 curl 调用 API：

Invoke (单次调用):POST http://localhost:5432/rag-chatbot/invoke

{

Stream (流式调用):POST http://localhost:5432/rag-chatbot/stream (请求体同invoke)流式调用会逐块返回内容，适合前端实时显示。

2. 传统部署方式 (Docker, 云函数等)：

• Docker：Python 应用容器化是最常见的部署方式。创建一个 Dockerfile，包含所有依赖，然后构建镜像，在任何支持Docker的环境中运行。
• Kubernetes： 对于大规模、高可用性的部署，可以将 Docker 容器部署到 Kubernetes 集群。

小结：LangServe 是部署 LangChain LCEL 链最方便快捷的方式，它提供了开箱即用的API端点。对于更复杂的部署场景，Docker 和云函数是常见的选择。

---

第三部分：监控日志——掌握RAG应用的痕迹

部署到生产环境的应用，需要持续的监控来确保其稳定运行、性能达标，并及时发现问题。

1. 日志 (Logging)：

• 使用 Python 的 logging 模块记录关键信息，如：用户请求、LLM调用、工具执行、错误信息、警告等。
• 配置日志级别 (INFO, WARNING, ERROR)，将日志输出到文件或中央日志系统（如 ELK Stack, Splunk）。
• 在 LangChain 中，你可以在 Callbacks 中集成自定义日志。

1. 指标 (Metrics)：

• 收集关键性能指标：

• 响应时间： 平均响应时间、P99 延迟。
• Token使用量： 每次请求的输入/输出Token数，总Token消耗。
• LLM调用成功率/失败率： 监控LLM API的健康状况。
• 检索成功率： 检索器是否返回了足够的文档。
• RAG 相关性/忠实度： 可以通过自动化评估或抽样人工评估来定期衡量。

• 使用 Prometheus, Grafana 等工具进行指标收集、可视化和告警。
• LangSmith 也会自动收集和展示一些关键指标。

1. 错误告警：

• 配置错误告警机制（如通过 Sentry, DingTalk, Slack 等），在发生严重错误时及时通知开发团队。
• 结合 LangSmith，当某个 Trace 失败时，可以配置自动告警。

简要集成 Logging 示例：

import logging

小结： 调试是找出问题，评估是衡量质量，部署是上线运行，监控是保证稳定。LangSmith 是这些流程中的核心工具。

---

本期小结

在本期教程中，掌握了 LangChain 应用从开发到生产的关键实践：

• 学会了利用 LangSmith 进行强大的**可视化调试和追踪**，深入了解链条的执行细节。
• 了解了 LangSmith 在 **RAG 评估**方面的能力，为持续优化提供了数据支撑。
• 掌握了使用 LangServe 快速将你的 LCEL 链部署为可访问的 **REST API**。
• 初步了解了生产环境中对 LangChain 应用进行**日志记录和指标监控**的重要性。

现在，你的RAG系统已经准备好迎接真实世界的挑战，可以投入到生产环境中去服务用户了！

代码仓库

，为持续优化提供了数据支撑。

• 掌握了使用 LangServe 快速将你的 LCEL 链部署为可访问的 **REST API**。
• 初步了解了生产环境中对 LangChain 应用进行**日志记录和指标监控**的重要性。

现在，你的RAG系统已经准备好迎接真实世界的挑战，可以投入到生产环境中去服务用户了！

如何学习大模型 AI ？

我国在AI大模型领域面临人才短缺，数量与质量均落后于发达国家。2023年，人才缺口已超百万，凸显培养不足。随着Al技术飞速发展，预计到2025年，这一缺口将急剧扩大至400万，严重制约我国Al产业的创新步伐。加强人才培养，优化教育体系，国际合作并进，是破解困局、推动AI发展的关键。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

2025最新大模型学习路线

明确的学习路线至关重要。它能指引新人起点、规划学习顺序、明确核心知识点。大模型领域涉及的知识点非常广泛，没有明确的学习路线可能会导致新人感到迷茫，不知道应该专注于哪些内容。

对于从来没有接触过AI大模型的同学，我帮大家准备了从零基础到精通学习成长路线图以及学习规划。可以说是最科学最系统的学习路线。

针对以上大模型的学习路线我们也整理了对应的学习视频教程，和配套的学习资料。

大模型经典PDF书籍

新手必备的大模型学习PDF书单来了！全是硬核知识，帮你少走弯路！

配套大模型项目实战

所有视频教程所涉及的实战项目和项目源码等

博主介绍＋AI项目案例集锦

MoPaaS专注于Al技术能力建设与应用场景开发，与智学优课联合孵化，培养适合未来发展需求的技术性人才和应用型领袖。

这份完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

为什么要学习大模型？

2025人工智能大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 ， 大模型作为其中的重要组成部分 ， 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力， 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 ，为各行各业带来了革命性的改变和机遇 。

适合人群

• 在校学生：包括专科、本科、硕士和博士研究生。学生应具备扎实的编程基础和一定的数学基础，有志于深入AGI大模型行业，希望开展相关的研究和开发工作。
• IT行业从业人员：包括在职或失业者，涵盖开发、测试、运维、产品经理等职务。拥有一定的IT从业经验，至少1年以上的编程工作经验，对大模型技术感兴趣或有业务需求，希望通过课程提升自身在IT领域的竞争力。
• IT管理及技术研究领域人员：包括技术经理、技术负责人、CTO、架构师、研究员等角色。这些人员需要跟随技术发展趋势，主导技术创新，推动大模型技术在企业业务中的应用与改造。
• 传统AI从业人员：包括算法工程师、机器视觉工程师、深度学习工程师等。这些AI技术人才原先从事机器视觉、自然语言处理、推荐系统等领域工作，现需要快速补充大模型技术能力，获得大模型训练微调的实操技能，以适应新的技术发展趋势。
  

课程精彩瞬间

大模型核心原理与Prompt：掌握大语言模型的核心知识，了解行业应用与趋势；熟练Python编程，提升提示工程技能，为Al应用开发打下坚实基础。

RAG应用开发工程：掌握RAG应用开发全流程，理解前沿技术，提升商业化分析与优化能力，通过实战项目加深理解与应用。

Agent应用架构进阶实践：掌握大模型Agent技术的核心原理与实践应用，能够独立完成Agent系统的设计与开发，提升多智能体协同与复杂任务处理的能力，为AI产品的创新与优化提供有力支持。

模型微调与私有化大模型：掌握大模型微调与私有化部署技能，提升模型优化与部署能力，为大模型项目落地打下坚实基础。

顶尖师资，深耕AI大模型前沿技术

实战专家亲授，让你少走弯路

一对一学习规划，职业生涯指导

• 真实商业项目实训
• 大厂绿色直通车

人才库优秀学员参与真实商业项目实训

以商业交付标准作为学习标准，具备真实大模型项目实践操作经验可写入简历，支持项目背调

大厂绿色直通车，冲击行业高薪岗位

文中涉及到的完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】