Langchain4j RAG和向量搜索（8）

Langchain4j RAG和向量搜索

如何让大模型回答专业领域的知识

LLM 的知识仅限于它所训练的数据。 如果你想让 LLM 了解特定领域的知识或专有数据，你可以：

• 使用 RAG

• 使用你的数据微调 LLM

• 结合 RAG 和微调

微调大模型

​ 在现有大模型的基础上，使用小规模的特定任务数据进行再次训练，调整模型参数，让模型更精确地处理特定领域或任务的数据。更新需重新训练，计算资源和时间成本高。

​ 优点：一次会话只需一次模型调用，速度快，在特定任务上性能更高，准确性也更高。

​ 缺点：知识更新不及时，模型训成本高、训练周期长。

​ 应用场景：适合知识库稳定、对生成内容准确性和风格要求高的场景，如对上下文理解和语言生成质量要求高的文学创作、专业文档生成等。

RAG

​ Retrieval-Augmented Generation 检索增强生成。将原始问题以及提示词信息发送给大语言模型之前，先通过外部知识库检索相关信息，然后将检索结果和原始问题一起发送给大模型，大模型依据外部知识库再结合自身的训练数据，组织自然语言回答问题。通过这种方式，大语言模型可以获取到特定领域的相关信息，并能够利用这些信息进行回复。

​ 优点：数据存储在外部知识库，可以实时更新，不依赖对模型自身的训练，成本更低。

​ 缺点：需要两次查询：先查询知识库，然后再查询大模型，性能不如微调大模型

​ 应用场景：适用于知识库规模大且频繁更新的场景，如企业客服、实时新闻查询、法律和医疗领域的最新知识问答等。

RAG常用方法