大模型架构记录4-文档切分 (chunks构建)

chunks： 块

trunks : 树干

“RAG”通常指 检索增强生成（Retrieval-Augmented Generation）

主要框架：用户提query，找到和它相关的，先把问题转换为向量，和向量数据库的数据做比较，检索相似的向量，返回 对应向量的原始文本，构建prompt，给模型回答问题。

一 文档交互

1.1 生成和检索的区别

“RAG”通常指 检索增强生成（Retrieval-Augmented Generation）

二 金融智能客服系统

2.1 传统架构 （通过检索的方式）

1 提前设计FAQ库（业务人员整理）

<q, a> <q, a><q, a>

2 用户提问，和FAQ 问题做比较，看哪个问题相近，就使用这个答案

3 好处，结果可控。

2.2 传统问答方式2 （使用生成的方式）

1 提前设计FAQ库（业务人员整理）

<q, a> <q, a><q, a>

2 训练一个模型，问题做输入，答案做输出，训练模型 

3 使用模型，将问题作为模型的输入，使用模型的输出作为结果。

4 结果不可控，准确率比较低。

传统方式通常使用方式一 <