Windows部署DeepSeek本地RAG教程：低配电脑变身AI工作站

一、RAG介绍
RAG 知识库概述
1. 定义
RAG（Retrieval-Augmented Generation）是一种结合检索技术与生成模型的自然语言处理方法，通过引入外部知识库提升系统回复的准确性与信息量。

2. 核心原理
• 检索优先：生成回答前，先从知识库中检索相关信息（类似“开卷考试”）。
• 动态生成：基于检索结果，利用大语言模型生成最终回答。

3. 应用步骤
创建知识库

将原始数据转化为结构化存储形式（如向量数据库）。

查询知识库

通过向量检索等技术匹配最相关信息。

生成答案

结合检索结果与生成模型输出最终回答。

4. 应用场景
• 企业级产品：如 FastGPT 等即用型平台。
• 自定义项目：个人/团队用于学习、科研或商业场景。

5. GraphRAG 技术
• 微软提出：通过图谱化处理数据，增强语义关联性。
• 优势：提升检索精度。
• 局限：数据处理成本较高，依赖 AI 预处理。

本地部署 RAG 的优势
1. 数据隐私与安全
• 本地化存储：敏感数据无需上传至外部服务器，规避泄露风险。
• 完全控制：自主管理访问权限，确保信息私密性。

2. 高度定制化
• 私有知识库：按需构建专属知识库。
• 参数调优：灵活调整模型配置以适配特定需求。

3. 成本效益
• 一次性投入：避免云服务持续订阅费用。
• 零额外成本：无数据存储/处理附加费。

4. 离线可用性
• 无需网络：支持断网环境下运行，保障服务稳定性。

5. 检索效率提升
• 精准匹配：快速定位知识库关键信息。
• 智能生成：结合检索结果生成高质量回答。

6. 个性化适配
• **场景定制**：自由配置功能模块以满足垂直领域需求（如医疗、金融）。**

**

二、DeepSeek-R1 模型本地部署
首先需要先本地部署一下DeepSeek，这里可以参考我上一篇文章 ：
DeepSeek R1+Windows本地部署，保姆级教程，小白也能轻松部署 低配电脑可用，让R1不在 “繁忙”

https://editor.youkuaiyun.com/md/?articleId=145796894

三、AnythingLLM 安装
AnythingLLM则是一个知识整合的智能助手，能够帮助用户快速部署和整合DeepSeek和其他大语言模型。通过AnythingLLM，用户可以更方便地创建和管理本地知识库，实现高效的知识管理和智能问答‌,它提供 Web 界面，易于管理和调用，适合个人和企业打造专属 AI 助手。

官网地址：https://anythingllm.com

安装好后，

建立个人知识库

这个时候，我们可以将第一步的 什么是RAG 相关内容拷贝出来创建一个文档 测试Rag.docx
选择我们建立的Test工作区，上传此文档，把文档移动到工作区，并点击Save and Embed，等系统处理完成。

文档 Embed = 把文本变成向量 + 存入数据库 + 进行相似搜索。它是 AI 知识库、搜索推荐、智能问答的核心技术，让 AI 理解文本语义，而不再只是匹配关键词。