m0_52049533的博客

【代码】dify工作流http节点访问知识库报错。

128k 令牌的 OpenAI gpt-4o200k 令牌的 Anthropic claude-3-5-sonnet-20240620model_name = "Qwen/Qwen3-8B", # 模型名称让我们来解析一下map-reduce方法。为此，我们将首先使用大型语言模型（LLM）将每个文档映射到一个单独的摘要。然后，我们将这些摘要减少或合并为一个单一的全局摘要。请注意，map步骤通常是在输入文档上并行化的。

让我们在我们的模式中指定一个具有几个属性及其预期类型的Pydantic模型。如果我们想要JSON输出，我们可以直接调用.dict()

首先，我们需要描述我们想从文本中提取的信息。我们将使用 Pydantic 定义一个示例模式来提取个人信息。

需要安装pypdf包文档：https://s1.q4cdn.com/806093406/files/doc_downloads/2023/414759-1-_5_Nike-NPS-Combo_Form-10-K_WR.pdf。

在这个例子中，我们将使用Neo4j图形数据库。按照https://neo4j.com/docs/operations-manual/current/installation/设置图数据库下面的示例将创建与Neo4j数据库的连接，并用关于电影及其演员的示例数据填充它。

本指南将展示如何通过一个大模型供应商 Ollama 在本地（例如，在您的笔记本电脑上）使用本地嵌入和本地大型语言模型运行。

这是与每个视频相关的元数据。

我们将使用一个OpenAI模型和一个基于FAISS的向量存储。下面的示例将使用与Chinook数据库的SQLite连接。请按照这些。

我们现在有在 Lilian Weng 的博客文章 中构建的 Q&A 应用程序（本系列上篇）

RAG是一种通过额外数据增强大型语言模型知识的技术。大型语言模型可以推理广泛的主题，但它们的知识仅限于训练时使用的特定时间点的公共数据。如果您想构建能够推理私有数据或在模型截止日期后引入的数据的AI应用程序，您需要用模型所需的特定信息来增强模型的知识。将适当的信息引入并插入到模型提示中的过程称为检索增强生成（RAG）。LangChain有许多组件旨在帮助构建问答应用程序，以及更一般的RAG应用程序。

我们首先需要创建我们想要使用的工具。我们主要选择的工具将是 Tavily - 一个搜索引擎。LangChain中内置了一个工具，可以轻松使用Tavily搜索引擎作为工具TavilySearchResults 是 LangChain 中集成的一个搜索工具，用于通过 Tavily API 进行实时网络搜索。search_result = search.invoke("上海的天气如何？")

LangChain 实现了一个 文档 抽象，旨在表示一个文本单元及其相关元数据。metadata 属性可以捕获有关文档来源、与其他文档的关系以及其他信息。请注意，单个 Document 对象通常表示一个较大文档的一部分。在这里，我们生成了五个文档，包含指示三个不同“来源”的元数据。

我们将通过一个示例来设计和实现一个基于大型语言模型的聊天机器人。这个聊天机器人将能够进行对话并记住之前的互动。

本系列参考。

内存（Memory）是在对话过程中存储和检索数据的概念。内存主要分为两种类型：短期内存和长期内存。短期内存通常指的是如何在单个对话的上下文中传递数据（通常是先前的聊天消息或其摘要）。长期内存处理的是如何在对话之间获取和更新信息的问题。

本系列参考。

导入StaticFiles。“挂载”(Mount) 一个 StaticFiles() 实例到一个指定路径。这个 “子应用” 会被 “挂载” 到第一个 “/static” 指向的子路径。因此，任何以"/static"开头的路径都会被它处理。directory=“static” 指向包含你的静态文件的目录名字name=“static” 提供了一个能被FastAPI内部使用的名字。

可是我们仍然希望在包含 APIRouter 时设置一个自定义的 prefix，以便其所有路径操作以 /admin 开头，我们希望使用本项目已经有的 dependencies 保护它，并且我们希望它包含自定义的 tags 和 responses。对于此示例，它将非常简单。使用 BackgroundTasks 也适用于依赖注入系统，你可以在多个级别声明 BackgroundTasks 类型的参数：在 路径操作函数 里，在依赖中(可依赖)，在子依赖中，等等。我们将需要一些在应用程序的好几个地方所使用的依赖项。

"中间件"是一个函数,它在每个请求被特定的路径操作处理之前,以及在每个响应返回之前工作.要创建中间件你可以在函数的顶部使用装饰器 @app.middleware(“http”)在任何路径操作收到request前,可以添加要和请求一起运行的代码.也可以在响应生成但是返回之前添加代码.

FastAPI 提供了多种工具，可帮助你以标准的方式轻松、快速地处理安全性，而无需研究和学习所有的安全规范。

在任意的路径操作中使用 response_model 参数来声明用于响应的模型。

FastAPI 提供了简单易用，但功能强大的依赖注入系统编程中的「依赖注入」是声明代码（本文中为路径操作函数 ）运行所需的，或要使用的「依赖」的一种方式。然后，由系统（本文中为 FastAPI）负责执行任意需要的逻辑，为代码提供这些依赖（「注入」依赖项）。：依赖项就是函数，且可以使用与路径操作函数相同的参数依赖项函数的形式和结构与路径操作函数一样。因此，可以把依赖项当作没有「装饰器」（即，没有 @app.get(“/some-path”) ）的路径操作函数。

路径操作装饰器支持多种配置参数。

有些场景下要为 HTTP 错误添加自定义响应头。例如，出于某些方面的安全需要。一般情况下可能不会需要在代码中直接使用响应头。添加自定义处理器，要使用 Starlette 的异常工具。假设要触发的自定义异常叫作 UnicornException。需要 FastAPI 实现全局处理该异常。此时，可以用 @app.exception_handler() 添加自定义异常控制器items = {items = {请求 /unicorns/yolo 时，路径操作会触发 UnicornException。

接收的不是 JSON，而是表单字段时，要使用 Form。要使用表单，需预先安装 python-multipart。创建表单（Form）参数的方式与 Body 和 Query 一样。

Pydantic 模型支持 .dict() 方法（已弃用，改为model_dump()方法），能返回包含模型数据的字典。然后，用该类衍生出继承其属性（类型声明、验证等）的子类。任意的 dict 都能用于声明响应，只要声明键和值的类型，无需使用 Pydantic 模型。响应可以声明为两种类型的 Union 类型，即该响应可以是两种类型中的任意类型。访问http://127.0.0.1:8000/items/item1，访问http://127.0.0.1:8000/items/item2，

定义 Cookie 参数与定义 Query 和 Path 参数一样。第一个值是默认值，还可以传递所有验证参数或注释参数。

与在路径操作函数中使用 Query、Path 、Body 声明校验与元数据的方式一样，可以使用 Pydantic 的 Field 在 Pydantic 模型内部声明校验和元数据。在声明请求体数据模型时可以使用Field定义模型属性请求体嵌套模型List字段可以将一个属性定义为拥有子元素的类型。例如 Python list这将使 tags 成为一个由元素组成的列表。不过它没有声明每个元素的类型。Set类型嵌套模型对于不同的pydantic模型，可以实现彼此嵌套对于Item将期待以下格式的请求

如果你有一组具有相关性的查询参数，你可以创建一个 Pydantic 模型来声明它们。这将允许你在多个地方去复用模型，并且一次性为所有参数声明验证和元数据。

FastAPI 使用请求体从客户端（例如浏览器）向 API 发送数据。请求体是客户端发送给 API 的数据。响应体是 API 发送给客户端的数据。使用 Pydantic 模型声明请求体，能充分利用它的功能和优点FastAPI 支持同时声明请求体、路径参数和查询参数。

在终端运行结果如下：打开http://127.0.0.1:8000：交互式API文档：位于http://127.0.0.1:8000/docs可选的API文档：位于http://127.0.0.1:8000/redoc。

本系列参考FastAPI官方文档：https://fastapi.tiangolo.com/zh/python-types/