为什么使用RAG技术

注意事项

不管是微调、RAG还是检索都不能让大模型知道自己不知道的事情。
不管是微调、RAG还是检索都不能让大模型知道自己不知道的事情。
不管是微调、RAG还是检索都不能让大模型知道自己不知道的事情。

（例如：你不能通过微调让大模型使用一些小语种来交互）

他们起到的作用主要是：

1. 引导。让大模型意识到回答提问需要使用的背景知识和领域，避免幻觉和答非所问
2. 补盲。补充一些数据和内容，让大模型的回答更精准

微调 VS RAG

微调：

1. 技术门槛高，需要有专门研究大模型训练的团队
2. 算力成本高，需要有一定量的GPU和工具链
3. 数据要求高，需要有一定量的数据才能训练，否则效果会很差
4. 风险大，微调很可能导致模型能力退化

RAG:

1. 通过提示词圈定回答范围，可以大幅减轻甚至消除大模型幻觉。提升回答准确性

问题

1. 如果匹配到错误答案，则会错上加错
2. 如果没有匹配到内容，提示词效果会下降

召回率低的原因：

1. 本地数据质量差
2. 数据存在相似性（如工业场景，不同零部件的参数名称可能类似）