RAG实践 - AI 知识库问答功能的建设

本文链接：https://blog.youkuaiyun.com/2301_81888214/article/details/144904403

最近在工作中构建了一套自动的基于文档中心为数据集构建知识库 AI 问答的系统，来提升用户体验和技术支持效率，分享一下在实现过程中的技术选型和架构设计。

背景

先说下背景，我们公司的产品 FinClip 是做小程序全套解决方案的，因为产品属性的原因，接入的过程中主要是面向开发者的，会有很多的开发相关的问题。我们有一个文档中心 https://finclip.com/mop/document/ ，里面几乎存储了我们大部分的面向客户开发的文档。

所以在构建知识库问答的时候，我们有以下的数据源

文档中心的文档 https://finclip.com/mop/document/
在社区交付过程中，交付整理的问题 QA
售前和销售在和客户阐述方案的时候，腾讯会议纪要

在构建知识库的时候，希望的采用的是「自动化数据集」为主 & 「手动数据集」为辅的策略。将文档中心 & 腾讯会议纪要两部分打通自动化设置数据集的流程，剩余的交付整理的 QA 文档作为手动数据集为补充。

实现效果

实现效果侧还是还对比较简单，对于用户而言在我们的管理后台实现了一个聊天框，能够回答整个系统内的基本所有的问题，只要数据集有涉及到的

整体架构设计

整个基于 RAG 实现的AI 问答的链路，主要包含以下几个核心部分：

文档中心Gitlab仓库：基于 Gitlab 管理所有技术文档
- CI Pipeline：在文档中心的文档负责文档更新的自动化处理流程
LLM Service：大语言模型服务层，负责文档理解和问答生成，此处会针对源文档进行一次 QA 的拆分
FastGPT：向量数据库和知识检索服务
用户交互层：提供统一的问答接口

这种设计带来几个明显优势：

文档更新自动化，确保知识库实时性
服务解耦，便于独立扩展和维护
分层处理提升系统可靠性

文档处理流程

文档处理是整个系统的基础，我们的处理流程如下：

文档变更触发：通过 Gitlab CI 监听文档更新
自动化处理：CI Pipeline 自动执行以下步骤：
- 检测文档增量更新
- 提取文档内容
- 进行 QA 拆分，生成问答对
- 推送到知识库

这个流程确保了知识库能够及时反映最新的文档内容，无需人工干预。

知识库技术选型

在知识库方案选型时，我们主要对比了 FastGPT 和 RAGFlow：

FastGPT 的优势：

开箱即用的向量检索能力
良好的社区支持
简单的部署维护
内置的文本分块策略

Embedding 和 Rerank

我们的向量检索策略采用：

使用 embedding 模型将文本转换为向量
通过 ReRank 优化搜索结果相关性
动态调整检索阈值，平衡召回率和精确度

最终的流程图如下

AI 问答实现

问答系统的核心流程：

知识检索：
- 用户提问向量化
- 在知识库中检索相关内容
- 通过 Rerank 筛选最相关片段
答案生成：
- 将检索内容作为上下文
- 通过 LLM 生成自然、准确的回答
- 添加引用来源，提升可信度
质量保证：
- 答案相关性评分
- 兜底策略处理
- 用户反馈收集

如何系统的去学习大模型LLM ？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

事实上，抢你饭碗的不是AI，而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后，很多中小企业也陆续进场！超高年薪，挖掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，普通程序员，还有应对的机会吗？

与其焦虑……

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高。

针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉优快云大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)

在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程（LLaLA/Meta/chatglm/chatgpt）

在这里插入图片描述

LLM大模型学习路线 ↓

阶段1：AI大模型时代的基础理解

目标：了解AI大模型的基本概念、发展历程和核心原理。
内容：
- L1.1 人工智能简述与大模型起源
- L1.2 大模型与通用人工智能
- L1.3 GPT模型的发展历程
- L1.4 模型工程
- L1.4.1 知识大模型
- L1.4.2 生产大模型
- L1.4.3 模型工程方法论
- L1.4.4 模型工程实践
- L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

目标：掌握AI大模型API的使用和开发，以及相关的编程技能。
内容：
- L2.1 API接口
- L2.1.1 OpenAI API接口
- L2.1.2 Python接口接入
- L2.1.3 BOT工具类框架
- L2.1.4 代码示例
- L2.2 Prompt框架
- L2.3 流水线工程
- L2.4 总结与展望