实战本地部署DeepSeek和RAG，构建自己专属知识库

已于 2025-02-14 01:58:32 修改
阅读量961 收藏 16
点赞数 26
文章标签： 人工智能
于 2025-02-14 01:55:38 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/m0_62878167/article/details/145621741
版权

1、下载OllamaDownload Ollama on Windows

DeepSeek-V3和DeepSeek-R1都是非常优秀的国产大模型，如果需要在本地部署，则需要借助Ollama。Ollama是一个开源框架，专为在本地机器上便携部署和运行大模型而设计。

 

等待安装成功后，打开windows power shell，如下图所示，即为安装成功。

2、本地部署DeepSeek大模型

回到Ollama，点击Model，选择DeepSeek-R1。

在DeepSeek-R1中，可以看到有1.5b、7b、8b、14b、3

最低0.47元/天 解锁文章
daydayup_419
关注
【DeepSeek R1构建本地RAG知识库】应用框架选型对比（MaxKB、Dify、FastGPT、RagFlow、Anything-LLM）
少说，多做
02-17 2169
在人工智能技术加速渗透各行各业的今天，检索增强生成（Retrieval-Augmented Generation, RAG）技术正以破竹之势重塑知识管理范式。相较于传统大模型"黑箱式"的知识调用，RAG通过将私有数据与生成模型深度耦合，在保障数据主权的同时实现了精准可控的知识输出，这一特性使得企业级用户对本地化RAG解决方案的需求呈现爆发式增长。面对琳琅满目的RAG框架选型，开发者往往陷入"选择困难症"的泥淖：MaxKB标榜的零代码可视化部署是否真能实现开箱即用？
NVIDIA 3090 + Docker + DeepSeeR1：低性能GPU服务器的AI应用实战指南
海棠AI实验室
02-27 936
还在为家里吃灰的旧服务器发愁？还在苦恼高性能GPU价格昂贵？别担心！今天，我就带你用一台“廉颇老矣”的 NVIDIA 3090 服务器，通过 Docker 部署一个基于 Ollama、DeepSeek R1、LangChain、FAISS 和 Streamlit 的 RAG 应用，让你体验低成本、高性能的 RAG 魔法！
【deepseek】本地部署+RAG知识库挂载+对话测试
qq_45193872的博客
02-20 3400
如何实现Deepseek本地部署+RAG知识库挂载+对话测试【详细教程】
本地化搭建DeepSeek+RAGFlow，构建个人知识库
gogospecter的专栏
02-16 5331
本地化搭建DeepSeek+RAGFlow，构建个人知识库。至少32G以上内存、500G以上空余磁盘空间。
【完全本地部署】DeepSeek模型+RAG技术构建本地知识库
2301_76168381的博客
02-24 2257
在当今这个信息爆炸的时代，人工智能技术正以前所未有的速度发展。其中，DeepSeek 作为新一代的 AI 选手，迅速成为行业内的焦点。DeepSeek 在多项性能测试中已经达到了 OpenAI 的最新大模型 o1 水平，部分项目还实现了超越，在多项评测中表现优异，甚至直逼世界顶尖的闭源模型 GPT-4o 和 Claude-3.5-Sonnet。
DeepSeek 本地部署 + RAG知识库搭建 简单应用
最新发布
qq_43008246的博客
03-24 352
Deepseek + RAGFlow +微调
本地使用docker部署DeepSeek大模型
weixin_42032770的博客
02-18 3080
通过本地部署大模型构建自己的知识库以聊天助理的方式呈现知识交互，确实蛮令人震撼的。
Deepseek R1打造本地化RAG知识库（一）:安装部署使用详细教程
2401_82469710的博客
02-17 1968
Deepseek R1打造本地化RAG知识库（一）:安装部署使用详细教程
牛啊！本地化搭建DeepSeek+RAGFlow，构建个人知识库！
python1222_的博客
03-04 1592
最近DeepSeek异常火爆，我也积极的体验，研究它的API和模型，确实很Nice，搞私活真的很香，搭建个人的知识库也很爽！今天继续给大家带来手把手的教学，本地化搭建DeepSeek+RAGFlow，构建个人知识库！掌握了本文的方法， 你也可以在骚气的搭建个人知识库！首先要说明下为啥要构建个人知识库呢？在线版DeepSeek需要将数据传输到云端服务器处理，存在日志留存的可能，用户需要信任服务商的隐私政策。
DeepSeek RAGFlow构建本地知识库系统
助力企业数字化转型及企业院校赋能培训
02-06 1万+
本文详细的介绍了DeepSeek+RAGFlow 构建本地知识库系统，包含下载Docker,安装Docker,RAGFlow配置，新建知识库、模型配置及新建知识问答等内容。
AI大模型（三）基于Deepseek搭建本地RAG私人知识库全面攻略
这里是阿安的博客
02-09 5027
AI大模型（三）基于Deepseek搭建本地RAG私人知识库全面攻略：在本篇文章中，我们将进一步基于Deepseek搭建本地RAG私人知识库，让AI大模型帮你管理文档、数据、资料等知识内容，使其回答更加精确且贴合需求、成为真正意义上更加定制化的助手。除此之外，我们还将对知识库实现的关键---检索增强生成（RAG）技术的核心原理进行介绍，知其然知其所以然。
大模型——基于腾讯云大模型知识引擎的DeepSeek满血版模型搭建【法律大模型专家模型搭建实战】
03-24 200
大模型知识引擎（LLM KnowledgeEngine），是面向企业客户及合作伙伴的，基于大语言模型的知识应用构建平台，结合企业专属数据，提供知识问答等应用范式，更快更高效地完成大模型应用的构建，推动大语言模型在企业服务场景的应用落地。腾讯云大模型知识引擎结合企业专属数据，提供知识问答等应用范式及原子能力接口服务，能够更快更高效地完成大模型应用的构建，推动大语言模型在云通信与企业服务场景的应用落地。
LLM - 配置 GraphRAG + Ollama 服务 构建 中文知识图谱 教程(踩坑记录)
AGI
10-09 3612
GraphRAG 结合 知识图谱(Knowledge Graph) 和 大语言模型(LLM)，通过使用图关系发现和验证信息，从而增强语言模型的上下文理解能力，生成更准确、更连贯的回答 。GraphRAG 特别适合处理需要复杂推理和深层语义理解的查询。
超详细笔记——本地部署DeepSeek大模型和 RAG 知识库问答系统实录---Ollama+MaxKB+Python调用
JAMES费的空间
02-27 1118
通过以上一系列详细的步骤，我们成功在笔记本本地完成了DeepSeek大模型和RAG知识库问答系统（MaxKB）的部署，并实现了通过Python对其进行调用。这个过程不仅涉及到操作系统的安装与配置、虚拟机的使用、容器化技术（Docker）的应用，还包括大模型的下载与部署、知识库问答系统的搭建以及Python编程实现与系统的交互。希望本文能为对这方面技术感兴趣的读者提供有益的参考和实践指导，帮助大家更好地探索和应用人工智能技术。在实际操作过程中，可能会遇到各种问题，需要大家根据具体情况进行排查和解决。
隐私优先：DeepSeek+RAGFlow本地化部署，手把手构建个人知识库
Allenzyg的博客
03-07 2534
检索（Retrieval）：当用户提出问题时，系统会从外部的知识库中检索出与用户输入相关的内容。准备外部知识库：外部知识库可能来自本地的文件、搜索引擎结果、API 等等。这样，RAG 不仅依赖于模型本身的内在的、通过训练得到的知识，还能实时调用外部的信息进行补充。我们要构建的就是一个基于本地文件的外部知识库；通过 embedding 模型，对知识库文件进行解析：文本是由自然语言组成的，这种格式不利于机器直接计算相似度。
Windows部署DeepSeek本地RAG教程：低配电脑变身AI工作站，离线也能稳如老狗！
2401_85343303的博客
03-06 1597
RAG（Retrieval-Augmented Generation）是一种结合检索技术与生成模型的自然语言处理方法，通过引入外部知识库提升系统回复的准确性与信息量。
0基础玩deepseek+RAGFlow本地部署+搭建知识库
热门推荐
m0_58592891的博客
02-06 1万+
宝子们😎，还在为找资料东奔西走，被付费知识 “割韭菜” 而烦恼吗🧐？今天就给大家分享超实用的技术干货 ——DeepSeek 和 RAGFlow 本地部署，再手把手教你搭建专属知识库📚，让知识管理和获取变得轻松又高效，而且 0 基础也能轻松上手！宝子们😎，还在为找资料东奔西走，被付费知识 “割韭菜” 而烦恼吗🧐？今天就给大家分享超实用的技术干货 ——DeepSeek 和 RAGFlow 本地部署，再手把手教你搭建专属知识库📚，让知识管理和获取变得轻松又高效，而且 0 基础也能轻松上手！1、安装。
保姆级教程：DeepSeek+RAG技术实现企业级知识库搭建（附完整部署流程）
树後蹲壹熊
02-17 5603
网页版不够用？手把手教你打造定制化DeepSeek知识库
本地部署deepseek rag api
02-12
### 如何在本地环境部署 DeepSeek RAG API #### 3.1 准备工作 为了成功安装并运行 DeepSeek RAG API，在开始之前需确认已准备好必要的软件和硬件条件。确保计算机满足最低配置需求，并已经安装了 Docker 和 Docker Compose，这有助于简化容器化应用程序的管理[^1]。 #### 3.2 获取源码与资源文件 访问官方仓库获取最新的项目代码以及所需的预训练模型和其他依赖项。通常这些资料会被托管于 GitHub 或其他版本控制系统上。下载完成后解压至指定目录以便后续操作。 #### 3.3 修改配置文件 进入项目的根目录找到 `config.yaml` 文件，根据实际情况调整其中的各项参数设置，比如端口号、数据库连接字符串等重要信息。对于初次使用者来说，默认值可能并不适用于所有场景，因此仔细阅读文档中的说明部分非常重要。 #### 3.4 启动服务 通过命令行工具进入到包含有 docker-compose.yml 的路径下执行启动指令： ```bash docker-compose up -d ``` 这条命令将会读取当前目录下的 compose 文件来创建并启动所需的服务实例。如果一切正常的话，应该可以在浏览器中输入对应的 IP 地址加上设定好的端口查看到欢迎页面或是API测试界面。 #### 3.5 接入OpenAI API接口 按照提供的指南完成 OpenAI API 的集成过程，主要是指如何利用 Python SDK 来调用远程服务器上的功能模块。具体实现方式可以参照给出的例子进行模仿学习，注意替换掉示例里边提到的应用密钥等内容以匹配个人账户的信息。 #### 3.6 使用Python接口接入 针对希望基于现有业务逻辑快速构建聊天机器人或其他交互式系统的开发者而言，这里提供了详细的指导手册帮助理解怎样借助所提供的库函数轻松达成目标。重点在于掌握消息传递机制及其背后的原理。 #### 3.7 应用BOT工具类框架 介绍了一套完整的开发流程用于支持更复杂的对话管理和自然语言处理任务。它不仅限于简单的问答配对模式，而是能够应对多轮次交流的需求，同时具备良好的可扩展性和灵活性特点。 #### 3.8 实践案例分析 最后给出了几个典型应用场景作为参考样本供读者借鉴思考。从教育辅导平台到企业客服系统等多个领域都有涉及，旨在展示该技术方案的强大适应能力及广阔前景。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值