使用Ollama本地离线体验SimpleRAG（手把手教程）

Ollama介绍

Ollama是一个开源项目，专注于开发和部署大语言模型，特别是像LLaMA这样的模型，用于生成高质量的文本和进行复杂的自然语言处理任务。Ollama的目标是让大语言模型的运行和使用变得更加容易和普及，而无需复杂的基础设施或深度的机器学习知识。

GitHub地址：https://github.com/ollama/ollama

RAG是什么？

检索生成增强（Retrieval-Augmented Generation，RAG）是一种结合了检索（Retrieval）和生成（Generation）两种技术的自然语言处理方法，主要用于改进文本生成任务的性能，如问答系统、对话系统、文本摘要和文档生成等。RAG模型通过在生成模型的基础上，引入一个检索模块，来增强生成模型的准确性和丰富性。

在传统的生成模型中，模型完全依赖于训练数据中学习到的模式和统计信息来生成文本，这可能导致生成的内容缺乏新颖性或准确性。而检索模块则可以从外部知识库或文档中检索相关的信息，将这些信息作为额外的输入，提供给生成模型，从而帮助生成更准确、更丰富和更具体的文本。

具体来说，RAG模型的工作流程如下：

1. 检索阶段：模型首先根据输入的查询或上下文，从外部知识库中检索出与之最相关的文档或片段。
2. 融合阶段：检索到的信息与输入的查询或上下文进行融合，形成增强的输入。
3. 生成阶段：增强后的输入被送入生成模型，生成模型根据这些信息生成最终的文本输出。

通过这种方式，RAG模型能够在生成过程中利用到外部知识，提高了生成文本的准确性和丰富性，同时也增强了模型的可解释性，因为生成的文本可以追溯到具体的来源。RAG模型在处理需要大量领域知识或具体事实信息的任务时，表现出了显著的优势。

SimpleRAG介绍

A simple RAG demo based on WPF and Semantic Kernel.

SimpleRAG是基于WPF与Semantic Kernel实现的一个简单的RAG应用，可用于学习与理解如何使用Semantic Kernel构建一个简单的RAG应用。

GitHub地址：https://github.com/Ming-jiayou/SimpleRAG

主要功能

AI聊天

支持所有兼容OpenAI格式的大语言模型：

文本嵌入

支持所有兼容OpenAI格式的嵌入模型：

简单的RAG回答

简单的RAG回答效果：

对比不使用RAG的回答：

使用Ollama本地离线体验SimpleRAG

来到SimpleRAG的GitHub参考，注意到这里有个Releases：