LLM之RAG实战（四十）| 使用LangChain SQL Agent和MySQL搭建多层RAG ChatBot

wshzd

已于 2024-06-14 10:37:42 修改

阅读量2.9k

点赞数 18

分类专栏： RAG 笔记文章标签： langchain sql mysql

于 2024-06-14 10:30:09 首次发布

本文链接：https://blog.youkuaiyun.com/wshzd/article/details/139674811

版权

在传统的意义上，RAG 主要是从文档中检索用户想要的数据，从而提高大模型的能力，减少幻觉问题。今天，我们从另一个维度介绍RAG，RAG不从文档中获取数据，而是从MySQL数据库检索数据。我们可以使用LangChain SQL Agent结合聊天历史信息构建一个多层RAG聊天机器人。

一、架构

整体架构，如上图所示。主要层将使用带有基本链的聊天记录来生成一个新的和改进的查询，然后将其传递给第二层。在这里，我们使用 SQL Agent直接在 MySQL 数据库上运行查询并获取所需的数据。最后，这个检索到的上下文与提示一起传递到 LLM ， SQL Agent可以查看您的聊天记录。

主要层的功能允许我们将聊天记录用作上下文，这样当数据传递给 LLM时，就带有与我们的查询相关的背景知识。我们还在初始提示中要求改进查询的整体情况，以便更轻松地为 SQL Agent进行选择。

self.chat_llm = ChatOpenAI(    openai_api_key=settings.get("langchain.openai_api_key"),    model= llm_model_name,    temperature=0.2,    verbose=True,    model_kwargs={"response_format": {"type": "json_object"}},)
self.memory = ConversationBufferMemory(    memory_key = "chat_history",    input_key = "question",    return_messages = True)
template = """