我悟了!LangChain的精髓,是把LLM从“聊天机器人”变成“超级工具”。

一、LangChain介绍

什么是 LangChain

LangChain 是一个基于 python 语言的模块化、可组合、面向开发者的开源框架,旨在简化基于大型语言模型的应用程序开发。它由 Harrison Chase 于 2022 年 10 月发起,迅速成为 GitHub 上增长最快的开源项目之一。

顾名思义,LangChain中的“Lang”是指language,即⼤语⾔模型,“Chain”即“链”,也就是将⼤模型与外部数据&各种组件连接成链,以此构建AI应⽤程序。

为什么需要LangChain

当ChatGPT、QwenLM、DeepSeek等大语言模型(LLM)横空出世时,开发者们立刻意识到:LLM不是终点,而是构建智能应用的“大脑”。但要让这个“大脑”真正解决实际问题,还需要解决三个关键痛点:

信息过时

LLM的知识截止于训练数据的时间节点(如GPT-4的训练数据截止到2023年),无法回答诸如“2024年最新AI论文内容”或“今天纽约股市收盘价”这样的问题。

无法动手

LLM虽然能生成自然语言,但它不能执行外部操作,比如调用API、计算数值、查询数据库、发送邮件等。它就像一个只会思考的“脑壳”,没有“手脚”。

记忆有限

LLM的上下文窗口(例如GPT-4最多支持32,768个tokens)限制了它处理长文本的能力,难以记住对话历史或文档细节。

因此,我们需要一个框架,将LLM的“大脑”与“感官(数据)”、“手脚(工具)”、“记忆(上下文)”连接起来,让它从“聊天机器人”升级为“能解决具体问题的助手”。

二、为什么不使用模型 API 开发

不使用LangChain,确实可以使用GPT 或GLM4 等模型的API进行开发。比如,搭建“智能体”(Agent)、问答系统、对话机器人等复杂的 LLM 应用。

但使用LangChain的好处有:

  • 简化开发难度:更简单、更高效、效果更好
  • 学习成本更低:不同模型的API不同,调用方式也有区别,切换模型时学习成本高。使用LangChain,可以以统一、规范的方式进行调用,有更好的移植性。
  • 现成的链式组装:LangChain提供了一些现成的链式组装,用于完成特定的高级任务。让复杂的逻辑变得结构化、易组合、易扩展

三、LangChain 使用场景

作为一名运维工程师,可以用 LLM(大模型)+ 工具链 的方式构建「智能运维机器人」,帮你在已有监控、告警、日志、K8s 平台上实现自动诊断 + 智能决策

项目方向简要说明可实现功能
智能告警分析助手对接 Prometheus Alertmanager、Oncall 平台分析当前活跃告警、聚合历史告警趋势、关联处理手册,自动建议处理方案、支持“告警认领”/“告警屏蔽” 等操作
日志智能检索助手对接 ELK / Loki / VictoriaLogsLLM自动生成日志查询语句、关联上下文日志事件、 一键分析“异常原因”
Grafana 智能分析助手对接 Grafana API接收 PromQL / 指标表达式、生成趋势图、自动分析性能瓶颈
Kubernetes 智能巡检 / 故障定位助手对接 kubectl、K8s API Server自动检测Pod异常原因(ImagePullBackOff、CrashLoopBackOff等)、 一键修复(重启Pod、删除Evicted等)
自愈自动化运维平台 (AIOps)LangGraph 构建可控流程图事件 → 诊断 → 人工确认 → 执行动作、形成闭环:检测-诊断-修复-验证
监控配置生成助手自动生成PrometheusRule、Blackbox配置根据自然语言生成监控项、自动生成PromQL和yaml配置
工单/变更智能处理机器人对接内部ITSM系统(如Jira/禅道)解析工单内容 → 推荐处理流程、生成执行脚本或kubectl命令

四、LangChain技术体系

LangChain技术体系主要包括以下模块:

五、核心库

langchain-core

  • 功能:提供 LangChain 的核心抽象和基类,是其他模块的基础。
  • 主要组件:
  • Runnable:LangChain 的核心执行接口,所有链、代理和工具都基于此抽象。
  • PromptTemplate:用于动态生成模型输入的模板,支持字符串和聊天消息格式。
  • OutputParser:解析语言模型的输出(如 JSON、列表、结构化数据)。
  • Callbacks:用于监控和调试执行过程,支持日志记录、性能分析等。
  • 用途:定义通用的接口和工具,确保模块之间的兼容性和可扩展性。

langchain

  • 功能:主包,包含核心功能模块,依赖 langchain-core
  • 主要子模块:
  • LLMs:与语言模型交互的接口(如 OpenAI、Hugging Face)。
  • Chat Models:专为对话场景优化的模型接口。
  • Memory:管理对话上下文的模块(如 ConversationBufferMemory)。
  • Chains:组合提示、模型和其他组件的工作流(如 LLMChainRetrievalQA)。
  • Agents:动态决策和工具调用的模块。
  • Tools:外部工具接口(如搜索、计算器)。
  • 用途:提供构建复杂应用的完整工具集,适合快速开发。

langchain-community

  • 功能:社区贡献的扩展模块,包含大量第三方集成和工具。
  • 主要内容:
  • 向量存储:支持 Chroma、FAISS、Pinecone 等向量数据库。
  • 文档加载器:支持从 PDF、CSV、网页等加载数据。
  • 工具:如 Wikipedia、SerpAPI、Arxiv 等。
  • 模型集成:支持 Hugging Face、Anthropic、Cohere 等模型。
  • 用途:扩展 LangChain 的功能,适合需要特定集成或开源替代方案的场景。

六、语言模型集成库

LangChain 支持与多种语言模型和嵌入模型的集成,这些集成通常以单独的子包形式提供,需单独安装。以下是常见的模型集成库:

langchain-openai

  • 功能:与 OpenAI 的 GPT 模型和嵌入模型(如 text-embedding-ada-002)交互。
  • 用途:适合需要高性能模型的商业应用。

langchain-huggingface

  • 功能:支持 Hugging Face 的开源模型和嵌入模型(如 SentenceTransformers)。
  • 用途:适合本地部署或开源模型的场景

其他模型集成

  • langchain-cohere: 支持 Cohere 的嵌入和生成模型。
  • langchain-mistralai: 支持 Mistral AI 的模型。
  • langchain-google-genai: 支持 Google 的 Gemini 模型。

七、向量存储和检索库

LangChain 支持多种向量数据库,用于存储和检索文本的向量表示。这些库通常在 langchain-community 中,或以独立包形式提供。

langchain-chroma

  • 功能:与 Chroma 向量数据库集成,支持高效的向量存储和检索。
  • 用途:适合本地或小型应用的向量存储。

langchain-pinecone

  • 功能:与 Pinecone 云向量数据库集成。
  • 用途:适合大规模、分布式向量存储。

langchain-faiss

  • 功能:与 FAISS(Facebook AI Similarity Search)集成,支持高效的本地向量搜索。
  • 用途:适合高性能、本地化场景。

其他向量存储

  • Weaviate (langchain-weaviate): 支持云原生向量数据库。
  • Qdrant (langchain-qdrant): 高性能向量搜索。
  • Elasticsearch (langchain-elasticsearch): 结合 Elasticsearch 的搜索能力。

八、工具和外部服务集成

LangChain 提供了大量工具库,用于与外部服务交互。这些工具通常在 langchain-community 中,或者需要单独安装。

langchain-serpapi

  • 功能:与 SerpAPI 集成,用于网页搜索。
  • 用途:为代理提供实时搜索能力。

langchain-wikipedia

  • 功能:查询 Wikipedia 的内容。
  • 用途:快速获取百科知识。
  • 安装:包含在 langchain-community

其他工具

  • Arxiv:查询学术论文。
  • Wolfram Alpha:数学和科学计算。
  • Zapier:自动化工作流集成。

九、辅助库

LangChain 生态还包括一些辅助库,用于调试、部署和增强功能。

langsmith

  • 功能:LangChain 官方的调试和监控平台,用于记录链和代理的执行细节。
  • 用途:优化性能、分析模型行为。

langserve

  • 功能:将 LangChain 应用部署为 REST API。
  • 用途:快速上线 LangChain 应用。

langgraph

  • 功能:构建基于图的工作流,适合复杂、有状态的应用程序。
  • 用途:实现多步骤推理或循环任务。

十、文档加载和处理库

LangChain 提供多种文档加载器和文本处理工具,通常在 langchain-community 中。

文档加载器

  • PDF:PyPDF2, pdfplumber
  • Web:BeautifulSoup, WebBaseLoader
  • CSV/Excel:pandas

文本分割器

  • 功能:将长文本切分为适合模型处理的块。
  • 类型:
  • CharacterTextSplitter:按字符数分割。
  • RecursiveCharacterTextSplitter:递归分割,保留语义。
  • TokenTextSplitter:按 token 数分割。

十一、LangChain核心模块

LLM 大模型接口

LangChain 封装了不同模型的调用方式,它统一了各种模型的接口,切换不同模型变得轻松。

PromptTemplate提示词模板

大模型的输出质量在很大程度上取决于提示词(Prompt)的设计,在LangChain 把提示词封装成模板,支持变量动态替换,管理起来更清晰,能灵活控制 Prompt 内容,避免硬编码。

Chain链

Chain链是 LangChain 的核心思想之一,一个 Chain 就是将多个模块串起来完成一系列操作,Chain链可以将上一步操作的结果交给下一步进行执行,比如用提示词模板生成 Prompt,将渲染后的提示词交给大模型生成回答,再将大模型的回答将结果输出到控制台,Chain和Linux中的管道符十分类似,每一步的输出自动作为下一步输入,实现模块串联。

Memory记忆

在和大模型对话时,大模型本身并不具备有记忆历史对话的功能,但是在使用ChatGPT、DeepSeek等大模型时,发现它们在同一个会话内有“上下文记忆”的能力,这样能使对话更加连贯。

LangChain 也提供了类似的记忆功能。通过 memory,可以把用户的历史对话保存下来,使大模型拥有历史记忆的能力,如下示例,每一轮对话会从ConversationSummaryBufferMemory中读取历史对话,渲染到Prompt供大模型使用。

对话结束之后,会将对话内容保存到ConversationSummaryBufferMemory,如果历史记忆超过一定大小,为了节省和大模型之间调用的token消耗,会对历史记忆进行摘要提取、压缩之后再保存,这样大模型拥有了记忆功能。

MCP与工具调用

大语言模型本身是一种基于大量数据训练而成的人工智能,它本身是基于大量的数据为基础对结果进行预测,因此,大模型可能会出现给出1+1=3这种情况,大模型本身是不会“上网”, 也不会算数的,因此,可以给大模型接入各种各样的工具如Google搜索、高德地图定位信息查询、图像生成等等。

那么大模型是怎么使用工具的呢?在现如今,很多的大模型都支持了工具调用,也就是将可用的工具信息列表在调用大模型时传递过去,这些信息包括工具的用途、参数说明等等,大模型会根据这些工具的作用确定调用哪些工具,并且根据参数的描述,来返回调用工具的参数。

最终将工具调用结果返回给大模型,完成用户交给的任务,整个过程中,大模型会根据任务判断是否调用工具,并组织执行,这个自动决策执行的过程,就是由 agent 完成的。

agent 会自己思考、分步骤执行,非常适合复杂任务处理,后续我们也会深入介绍如何通过 LangChain 创建一个完整的 agent,自动协调多个工具完成复杂任务。

对于那些不支持工具调用的大模型,也可以根据提示词将可选的工具和调用方法传递给大模型,但是大模型的预测有很强的不确定性,返回结果的准确率会显著下降。

RAG检索

在一些LLM的使用场景,需要使用一些特定的文档让LLM根据这些文档的内容进行回复,而这些特定的文档通常不在LLM的训练数据中,此时RAG检索就有用武之地。

在LangChain中,可以读取文档作为大模型的知识库,来进行增强搜索,LangChain封装各种类型的文档读取器,可以将读取文档得到的数据,通过LangChain文档分割器对文档进行分割,通过文本嵌入模型对文本进行向量化,将文本的向量信息保存到向量数据库。

当用户向AI发起提问时,在向量数据库中检索出与提问相关的文档,然后与用户问题一起发送给大模型,这个过程就叫做RAG(检索增强生成,Retrieval-Augmented Generation),RAG 能让大模型回答特定领域的问答变得更加精准、实时,避免出现幻觉。

那么,如何系统的去学习大模型LLM?

作为一名深耕行业的资深大模型算法工程师,我经常会收到一些评论和私信,我是小白,学习大模型该从哪里入手呢?我自学没有方向怎么办?这个地方我不会啊。如果你也有类似的经历,一定要继续看下去!这些问题啊,也不是三言两语啊就能讲明白的。

所以我综合了大模型的所有知识点,给大家带来一套全网最全最细的大模型零基础教程。在做这套教程之前呢,我就曾放空大脑,以一个大模型小白的角度去重新解析它,采用基础知识和实战项目相结合的教学方式,历时3个月,终于完成了这样的课程,让你真正体会到什么是每一秒都在疯狂输出知识点。

由于篇幅有限,⚡️ 朋友们如果有需要全套 《2025全新制作的大模型全套资料》,扫码获取~
在这里插入图片描述

👉大模型学习指南+路线汇总👈

我们这套大模型资料呢,会从基础篇、进阶篇和项目实战篇等三大方面来讲解。
在这里插入图片描述
在这里插入图片描述

👉①.基础篇👈

基础篇里面包括了Python快速入门、AI开发环境搭建及提示词工程,带你学习大模型核心原理、prompt使用技巧、Transformer架构和预训练、SFT、RLHF等一些基础概念,用最易懂的方式带你入门大模型。
在这里插入图片描述

👉②.进阶篇👈

接下来是进阶篇,你将掌握RAG、Agent、Langchain、大模型微调和私有化部署,学习如何构建外挂知识库并和自己的企业相结合,学习如何使用langchain框架提高开发效率和代码质量、学习如何选择合适的基座模型并进行数据集的收集预处理以及具体的模型微调等等。
在这里插入图片描述

👉③.实战篇👈

实战篇会手把手带着大家练习企业级的落地项目(已脱敏),比如RAG医疗问答系统、Agent智能电商客服系统、数字人项目实战、教育行业智能助教等等,从而帮助大家更好的应对大模型时代的挑战。
在这里插入图片描述

👉④.福利篇👈

最后呢,会给大家一个小福利,课程视频中的所有素材,有搭建AI开发环境资料包,还有学习计划表,几十上百G素材、电子书和课件等等,只要你能想到的素材,我这里几乎都有。我已经全部上传到优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】
在这里插入图片描述
相信我,这套大模型系统教程将会是全网最齐全 最易懂的小白专用课!!

### 使用 LangChain 构建聊天机器人的教程 LangChain 是一种用于构建对话应用程序的强大框架,它允许开发者通过模块化的方式集成不同的组件来创建复杂的聊天机器人。以下是关于如何使用 LangChain 的一些核心概念以及示例代码。 #### 1. 基本架构设计 在实际开发过程中,可以参考之前的系列文章[^2],这些文章逐步介绍了从零开始构建基于 LangChain聊天机器人所需的知识点。每篇文章都涵盖了特定的主题,例如数据加载、索引建立、提示词优化等。 #### 2. 聊天模型与提示词模板结合 为了实现更加灵活的功能,可以通过 LangChain 表达式语言(LCEL)将聊天模型和提示词模板结合起来[^3]。这种组合方式不仅简化了逻辑处理流程,还增强了系统的可扩展性和自定义能力。 下面展示了一个简单的 Python 实现例子: ```python from langchain import PromptTemplate, LLMChain from langchain.llms import OpenAI # 定义一个动态生成的Prompt Template template = """Question: {question} Answer: Let's think step by step.""" prompt = PromptTemplate(template=template, input_variables=["question"]) # 初始化LLM Chain对象并指定使用的语言模型 llm_chain = LLMChain(prompt=prompt, llm=OpenAI()) # 测试运行 response = llm_chain.run("What is the capital of France?") print(response) ``` 上述脚本演示了如何利用 `PromptTemplate` 和 `LLMChain` 来完成问答任务。其中,我们设置了问题作为输入变量,并调用了预训练好的 GPT 类型的语言模型来进行推理计算[^1]。 #### 3. 进阶功能探索 随着项目需求的增长,在基础版本之上还可以加入更多高级特性,比如记忆管理机制、多轮对话支持或者外部工具接入等功能模块。具体方法可以在官方文档或其他社区资源里找到详细的指导说明。 --- ###
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值