langchain模块-模型

转载已于 2023-04-30 21:21:28 修改 · 624 阅读

0 ·

CC 4.0 BY-SA版权

原文链接：http://www.promptcan.com/news/txtlist_i81v.html

文章标签：

#人工智能 #python

于 2023-04-29 11:01:04 首次发布

文档介绍了LangChain中使用的三种主要模型类型：大型语言模型(如LLMs)，用于处理文本输入和输出；聊天模型，具有结构化的API，处理聊天消息交互；以及文本嵌入模型，将文本转化为浮点数列表的表示形式。

部署运行你感兴趣的模型镜像

文档的这一部分涉及 LangChain 中使用的不同类型的模型。在此页面上，我们将在较高层次上介绍模型类型，但我们为每种模型类型提供了单独的页面。这些页面包含使用该模型的更详细的“操作方法”指南，以及不同模型提供商的列表。

LLMs

大型语言模型 (LLM) 是我们涵盖的第一类模型。这些模型将文本字符串作为输入，并返回文本字符串作为输出。

聊天模型

聊天模型是我们涵盖的第二种类型的模型。这些模型通常由语言模型支持，但它们的 API 更加结构化。具体来说，这些模型将聊天消息列表作为输入，并返回聊天消息。

文本嵌入模型

我们涵盖的第三种模型是文本嵌入模型。这些模型将文本作为输入并返回一个浮点数列表。

深入

LLMs
聊天模型
文本嵌入模型

本文转载自AI资源分享交易平台promptcan波浪客langchain模块-模型 - promptcan波浪客

您可能感兴趣的与本文相关的镜像

Qwen3-VL-8B

图文对话

Qwen3-VL

Qwen3-VL是迄今为止 Qwen 系列中最强大的视觉-语言模型，这一代在各个方面都进行了全面升级：更优秀的文本理解和生成、更深入的视觉感知和推理、扩展的上下文长度、增强的空间和视频动态理解能力，以及更强的代理交互能力

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

vantoo2014

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
2
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

开源模型应用落地-LangChain高阶-Tools工具-Multi-Agent（五）

以微薄之力，予他人些许温暖.

05-05

1万+

基于Multi-Agent进一步串联多个agents，通过多个 Agent 的协同合作，高效完成复杂任务。

Langchain--如何使用大模型 2.0

小森的博客

07-29

2347

我们除了可以使用Langchain进行模型对话、提示词创作、嵌入模型，还可以使用其他的组件对大模型封装使用，打造我们自己的大模型。

2 条评论您还未登录，请先登录后发表或查看评论

LangChain框架「 LangChain 详细介绍」

2202_75323672的博客

03-25

2671

提示（Prompt）指的是模型的输入，这个输入一般很少是硬编码的，而是从使用特定的模板组件构建而成的，这个模板组件就是 PromptTemplate 提示模板，可以提供提示模板作为输入，模板指的是我们希望获得答案的具体格式和蓝图。聊天模型是语言模型的一个变体，聊天模型以语言模型为基础，其内部使用语言模型，不再以文本字符串为输入和输出，而是将聊天信息列表为输入和输出，他们提供更加结构化的 API。LangChain 提供了一个标准的代理接口，一系列可供选择的代理，以及端到端代理的示例。

大模型技术学习系列(4): langchain+ollama构建本地大模型应用

u011160113的博客

07-20

1776

本章主要阐述了本地构建基于大模型的应用程序的过程。从资源准备分析到实际搭建，一步步的指导应该如何在本地搭建一个基于大模型的应用程序。

LangChain入门（二）：核心组件最全指南，大模型入门到精通，收藏这篇就足够了！

2301_81888214的博客

09-25

770

掌握各组件的定位与协同逻辑，才能根据业务需求（如客服对话、企业知识库、多模态分析）灵活组合，搭建高效的 LLM 应用。

langchain主要模块(三)：Chain

qq128252的博客

09-13

1455

链允许我们将多个组件组合在一起，创建一个单一而连贯的应用程序。例如，我们可以创建一个链，接受用户输入，使用 PromptTemplate 进行格式化，然后将格式化的响应传递给 LLM。我们可以通过将多个链组合在一起或将链与其他组件组合来构建更复杂的链。

本地部署开源大模型的完整教程：LangChain + Streamlit+ Llama

热门推荐

deephub

06-26

1万+

通过LangChain和Streamlit我们可以方便的整合任何的LLM模型，并且通过GGML我们可以将大模型运行在消费级的硬件中，这对我们个人研究来说使非常有帮助的。作者：Afaque Umer。

小白入门大模型：LangChain（附教程）

2301_81888214的博客

02-27

2041

Langchain是一个语言模型的开发框架，主要是利用大型LLMs的强大得few-shot以及zero-shot泛化能力作为基础，以Prompt控制为核心基础，让开发者可以根据需求，往上快速堆叠应用，简单来说： LangChain 是基于提示词工程(Prompt Engineering)，提供一个桥接大型语言模型(LLMs)以及实际应用App的胶水层框架。

精选资源

一个使用 langchain langchain-exa langchain-smith 的样例项目

02-22

在这个项目中，开发者可能使用langchain-exa处理输入文本，通过langchain-smith训练一个语言模型，然后计算并输出文本的困惑度，以评估模型对给定文本的理解程度。 **五、项目实施步骤** 1. **数据预处理**：使用...

精选资源

Langchain-Chatchat基于 Langchain 与 ChatGLM 等语言模型的本地知识库问答

02-07

1. **模块化设计**：Langchain将复杂的NLP任务分解为独立的模块，如分词器、句法分析器和情感分析器，便于组合和定制。 2. **灵活性**：支持多种NLP模型，包括基于规则的方法、统计模型以及深度学习模型。 3. **数据...

东方证券-计算机行业：他山之石系列报告-二-：大模型应用开发框架LangChain梳理-230716.pdf

07-19

- **组件模块**：为了克服通用大模型难以获取外部信息和无法保存上下文记忆等问题，LangChain提供了一系列组件，包括Model模块、prompt templates、output parsers、Chains、Agents以及Memory机制。这些组件相互协作...

langchain-模型

Aring的博客

08-21

2294

langchain 提供接口继承不同的模型，为了便于切换模型，langchain 将不同的抽象模型为相同的借口 BaseLanguageModel ，并提供 predict 和 predict_message 函数来调用模型。davinci、curie、babbage、ada 模型归位文本补全模型。GPT 模型归位聊天模型。

一篇文章搞懂LangChain

weixin_40920183的博客

07-09

1225

来源：分布式实验室在日常生活中，我们通常致力于构建端到端的应用程序。有许多自动机器学习平台和持续集成/持续交付（CI/CD）流水线可用于自动化我们的机器学习流程。我们还有像 Roboflow 和 Andrew N.G. 的 Landing AI 这样的工具，可以自动化或创建端到端的计算机视觉应用程序。如果我们想要借助 OpenAI 或 Hugging Face 创建基于大语言模型的应用程序，以前我...

一文搞懂大模型框架：LangChain

weixin_45727359的博客

08-10

3390

来源：AI研究局作者：张伟在日常生活中，我们通常致力于构建端到端的应用程序。有许多自动机器学习平台和持续集成/持续交付（CI/CD）流水线可用于自动化我们的机器学习流程。我们还有像 Roboflow 和 Andrew N.G. 的 Landing AI 这样的工具，可以自动化或创建端到端的计算机视觉应用程序。如果我们想要借助 OpenAI 或 Hugging Face 创建基于大语言模型的应用程序...

一起学大模型 - 动手写一写langchain调用本地大模型（1）

一起来研究langchain和langchain-chatchat

06-01

9825

langchain的手册里只有使用在线openai接口这一个例子，实际运用中我们大部分还是要用本地的大模型的。所以我们一起尝试写一写，练一练我们以 GPT-2 为例，定义一个调用本地 GPT-2 模型的# 定义 BERT 嵌入模型类# 定义 GPT-3 生成模型类以上我们用三个章节介绍了如何调用本地模型，如何使用langchain自带的管道方法，以及如何从绝对地址来调用模型。大家可以清晰的在各段代码里看到改变，可以尝试自己使用自己的方法。

大模型-LangChain介绍

m0_71745484的博客

11-28

1097

LangChain 概览LangChain 定义与原理LangChain 是一个基于大型语言模型（LLM）的编程框架，它允许开发者利用 LLM 构建端到端的应用程序。LangChain 的核心在于将不同的组件“链”在一起，以创建更高级的 LLM 用例。这些组件可能包括提示模板（PromptTemplates）、LLM 模型（如 GPT-3 或 BLOOM）、以及代理（Agents），它们共同工作来实现特定的功能，如聊天机器人、生成式问答、摘要等。LangChain介绍与入门中文文档。

拥抱生成式大模型 -- langchain篇（博客搬家至知乎，同步更新）

从网络到AI，从学术界到产业界，随着兴趣去逐梦

05-04

6327

到目前为止，我们一直只是单独使用PromptTemplate和LLM原语进行操作。但是，实际的应用不仅仅是一个原语，而是由它们的组合构成的。在LangChain中，链由链接组成，链接可以是LLM等原语或其他链。最核心的链类型是LLMChain，它由一个PromptTemplate和一个LLM组成。延续前面的例子，我们可以构建一个LLMChain，它接受用户输入，使用PromptTemplate对其进行格式化，然后将格式化的响应传递给LLM。

LangChain学习一：模型-实战

huiguo_的博客

12-06

2318

聊天模型：这些模型通常由语言模型支持，但它们的API更加结构化。具体来说，这些模型将聊天消息列表作为输入，并返回聊天消息。这里的content就相当于大模型机器回答，干啥用呢，为了以后的多轮对话做准备。LLMs：这些模型将文本字符串作为输入，并返回文本字符串作为输出。还可有以下情况，就是上面说的模仿大模型说话，我们先看一下原生的。文本嵌入模型：这些模型将文本作为输入，并返回一个浮点数列表。看到没，这时候，我们的大模型就可以作为一个助手帮你了。LangChain 支持的各种模型类型和模型集成。

大模型开发框架 LangChain最全总结系列

ailiandeziwei的专栏

04-11

8709

假如我们想要用 openai api 对一个段文本进行总结，我们通常的做法就是直接发给 api 让他总结。但是如果文本超过了 api 最大的 token 限制就会报错。这时，我们一般会进行对文章进行分段，比如通过 tiktoken 计算并分割，然后将各段发送给 api 进行总结，最后将各段的总结再进行一个全部的总结。LangChain 很好的帮我们处理了这个过程，使得我们编写代码变的非常简单。# 导入os,设置环境变量。导入文本加载器、总结链、文本分割器及OpenAI模型import os。

langchain 1.1.0 langchain-classic 1.0.0 langchain-community 0.4.1 langchain-core 1.1.0 langchain-coze 0.1.4 langchain-huggingface 1.1.0 langchain-text-splitters 1.0.0 langfuse 3.10.3 langgraph 1.0.4 langgraph-checkpoint 3.0.1 langgraph-prebuilt 1.0.5 langgraph-sdk 0.2.10 langsmith 0.4.49

最新发布

12-04

<think> 我们已知用户的问题是关于LangChain版本兼容性以及解决导入错误的问题。用户提到了以下版本： - langchain 1.1.0 - langchain-classic 1.0.0 - langchain-community 0.4.1 用户之前遇到了导入错误：`from langchain.retrievers.document_compressors import CrossEncoderReranker` 无法解析。在LangChain的版本演进中，模块结构发生了变化。特别是在1.0版本后，LangChain进行了模块拆分，将很多组件移到了`langchain-community`包中。 ### 1. 版本兼容性分析 - **langchain 1.1.0**：这是最新的核心库，但注意，在1.0版本后，许多集成（包括CrossEncoderReranker）被移到了`langchain-community`中。 - **langchain-classic 1.0.0**：这个包是为了向后兼容，它提供了旧版（0.x）的API，但可能不包含所有新功能。 - **langchain-community 0.4.1**：这个包包含社区贡献的集成和组件，包括各种检索器、文档压缩器等。 ### 2. 解决导入错误根据用户上次的问题，我们尝试导入`CrossEncoderReranker`。在LangChain 1.x中，这个类已经被移动到`langchain_community.retrievers`中。因此，正确的导入方式应该是： ```python from langchain_community.retrievers import CrossEncoderReranker ``` 但是，请注意，在`langchain_community`中，这个类的具体路径可能是`langchain_community.document_compressors.cross_encoder`。我们需要检查文档或源码。实际上，在`langchain-community`的文档中，`CrossEncoderReranker`位于`langchain_community.document_compressors.cross_encoder`模块中。因此，导入方式为： ```python from langchain_community.document_compressors.cross_encoder import CrossEncoderReranker ``` ### 3. 依赖安装 `CrossEncoderReranker`依赖于`sentence-transformers`库。请确保安装： ```bash pip install sentence-transformers ``` ### 4. 使用示例以下是一个使用`CrossEncoderReranker`的示例： ```python from langchain_community.document_compressors.cross_encoder import CrossEncoderReranker # 初始化重排器，指定模型 reranker = CrossEncoderReranker(model="cross-encoder/ms-marco-MiniLM-L-6-v2") # 假设我们有文档列表和查询 documents = [...] # 这里是一组Document对象 query = "用户查询" # 使用重排器压缩文档（即重新排序） compressed_docs = reranker.compress_documents(documents, query) ``` ### 5. 版本冲突解决如果同时安装了多个LangChain包（如`langchain`和`langchain-classic`），可能会发生冲突。建议： - 卸载旧版本：`pip uninstall langchain` - 安装所需的社区包：`pip install langchain-community==0.4.1` ### 6. 验证安装可以通过以下命令检查包是否存在： ```python import langchain_community print(dir(langchain_community.document_compressors.cross_encoder)) # 应该能看到CrossEncoderReranker ``` ### 7. 注意事项 - 在LangChain 1.x中，核心库（`langchain`）不再包含特定集成的实现，这些集成被分散到`langchain-community`和其他包中。 - 使用`langchain-classic`可以保持0.x的API，但可能无法使用新特性。 ### 引用说明根据LangChain官方文档，自1.0版本起，原有的集成组件被迁移到`langchain-community`中[^1]。 §§相关问题§§ 1. LangChain 1.x版本与0.x版本的主要区别是什么？ 2. 如何解决LangChain版本升级导致的模块导入错误？ 3. 除了CrossEncoderReranker，还有哪些文档压缩器可用？ </think> ### LangChain 版本兼容性与导入错误解决方案 #### 1. **版本兼容性分析** | 包名 | 版本 | 主要功能 | 兼容性说明 | |-------------------|-----------|--------------------------------------------------------------------------|----------------------------------------------------------------------------| | `langchain` | 1.1.0 | 核心框架（链、代理、记忆等） | 与社区包兼容，但模块路径已重构 | | `langchain-classic` | 1.0.0 | 旧版API兼容层 | 仅用于迁移0.x项目，**不包含**新功能如`CrossEncoderReranker`[^1] | | `langchain-community` | 0.4.1 | 第三方集成组件（检索器、文档压缩器等） | **必须使用此包**导入`CrossEncoderReranker` | #### 2. **解决导入错误的三种方案** **方案1：使用社区包（推荐）** ```python # 正确导入路径（适用于 langchain-community>=0.0.14） from langchain_community.document_compressors.cross_encoder import CrossEncoderReranker reranker = CrossEncoderReranker( model="cross-encoder/ms-marco-MiniLM-L-6-v2", # 默认模型 top_n=5 # 返回前5个文档 ) ``` **方案2：版本降级（不推荐）** ```bash pip uninstall langchain-classic langchain-community # 移除新版本 pip install langchain==0.0.330 # 支持原路径导入的最后一个版本 ``` ```python # 0.0.330版本导入方式 from langchain.retrievers.document_compressors.cross_encoder import CrossEncoderReranker ``` **方案3：动态导入兼容** ```python try: # 尝试新路径 from langchain_community.document_compressors.cross_encoder import CrossEncoderReranker except ImportError: try: # 回退到旧路径 from langchain.retrievers.document_compressors.cross_encoder import CrossEncoderReranker except ImportError: raise ImportError("需安装 langchain>=0.0.330 或 langchain-community>=0.0.14") ``` #### 3. **依赖关系管理** ```mermaid graph TD A[langchain-community 0.4.1] --> B[CrossEncoderReranker] B --> C[sentence-transformers] C --> D[PyTorch] D --> E[CUDA 11.7]  B --> F[NumPy] A --> G[其他检索器] ``` **关键依赖安装：** ```bash pip install sentence-transformers torch numpy # 必需依赖 pip install --upgrade langchain-community==0.4.1 # 指定版本 ``` #### 4. **版本冲突解决技巧** 1. **虚拟环境隔离**： ```bash python -m venv lc-env && source lc-env/bin/activate pip install langchain==1.1.0 langchain-community==0.4.1 ``` 2. **依赖验证**： ```python import langchain_community print(langchain_community.__version__) # 应输出 0.4.1 ``` 3. **路径检查**： ```python import inspect from langchain_community.document_compressors import cross_encoder print(inspect.getfile(cross_encoder)) # 验证实际文件路径 ``` #### 5. **典型错误排查** ```plaintext 错误: ImportError: cannot import name 'CrossEncoderReranker' 原因: 1. 未安装 langchain-community 2. langchain-classic 覆盖了新版本路径解决: pip uninstall langchain-classic # 移除冲突包 pip install --force-reinstall langchain-community==0.4.1 ``` > 📌 **注意**：LangChain 1.x 后所有第三方集成均移至 `langchain-community`，核心包仅保留基础框架[^2]。