基于Langchain-chatchat搭建本地智能知识问答系统

---

搭建本地智能知识问答系统：基于Langchain-chatchat的实践指南

引言

在数字化时代，企业对知识管理的需求日益增长。本地化的知识问答系统不仅能提升数据安全性，还能实现私域化部署，满足企业对数据保密和快速响应的需求。本文将介绍如何基于Langchain-chatchat搭建一个本地智能知识问答系统。

项目概述

基于 ChatGLM 等大语言模型与 Langchain 等应用框架实现，开一种利用 langchain 思想实现的基于本地知识库的问答应用，目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。
依托于本项目支持的开源 LLM 与 Embedding 模型，本项目可实现全部使用开源模型离线私有部署。与此同时，本项目也支持 OpenAI GPT API 的调用，并将在后续持续扩充对各类模型及模型API 的接入。
本项目实现原理如下图所示，过程包括加载文件 -> 读取文本 -> 文本分割 -> 文本向量化 -> 问句向量化 -> 在文本向量中匹配出与问句向量最相似的 -> 匹配出的文本作为上下文和问题一起添加打包-> 提交给LLM，最后生成回答。
强烈推荐使用 Python3.11，创建一个虚拟环境，并在虚拟环境内安装项目的依赖。需要注意电脑显存要大于12G，不然该项目跑不动。
该项目是一个可以实现完全本地化推理的知识库增强方案, 重点解决数据安全保护，私域化部署的企业痛点。本开源方案采用Apache License，可以免费使用，无需付费。

以下是搭建基于Langchain-chatchat的本地智能知识问答系统的流程图：