RAG技术：是将知识库的文档和问题共同输入到LLM中

RAG技术

RAG技术是将知识库的文档和问题共同输入到LLM中

RAG技术是先从知识库中检索出与问题相关的文档片段，然后将这些检索到的文档片段与问题一起输入到LLM中进行回答。具体过程如下：

文本分块

由于LLM的上下文窗口有限，需要将长文本资料分割成较小的块，以便LLM能够有效地处理。

嵌入及存储块到向量数据库

使用向量嵌入技术为每个文本块生成向量表示，并存储这些向量到向量数据库中。

检索

当用户提出查询时，系统利用向量数据库进行检索，找到与查询语义上最相似的文本块。

生成回答

将检索到的文本块与用户的问题一起作为LLM的输入，LLM根据接收到的上下文信息和问题生成回答。

RAG技术即检索增强生成技术，是一种将检索系统与生成模型相结合的技术架构，利用向量数据库从外部知识库中检索相关信息，增强大模型生成的能力。以下是一些具体应用的例子：

客户服务领域

某大型电信运营商的智能客服系统采用了RAG技术。当用户咨询“如何办理5G套餐变更业务”时，系统首先将问题向量化，然后在知识库中检索相关的业务文档、常见问题解