手把手教你：使用Ollama+Cherry Studio搭建DeepSeek本地知识库，必学收藏！

关注

原创最新推荐文章于 2026-06-05 11:48:42 发布 1.2k 阅读 AI 写同款· GEO 优化 ›

Deepseek R1 模型本地部署(ollama+cherry studio)详细指南！个人知识库搭建与使用对于想要在本地或自托管环境中运行 LLM 的用户而言，Ollama 提供了一个无需 GPU、在 CPU 环境也可高效完成推理的轻量化 “本地推理” 方案，接下来跟着笔者学习怎么一步步搭建自己的本地知识库吧阅读详情

本文详细介绍了如何通过Ollama部署DeepSeek模型，结合Cherry Studio搭建本地知识库，实现企业私有数据的安全处理。从Ollama安装、模型下载到Cherry Studio配置，再到知识库搭建和对话测试，提供了完整的操作指南。这种方法确保数据无需离开本地环境，避免合规风险和泄露隐患，同时支持调用更大模型提升效果。对于需要处理敏感信息的企业和开发者而言，这是一份实用的技术参考。

1、Ollama下载

登录Ollama官网（https://ollama.com/）点击Downloa，进入模型下载页面。

在这里插入图片描述

根据自己的电脑选择合适的系统，按照提示步骤进行安装即可。

在这里插入图片描述

2、下载DeepSeek模型与嵌入模型

输入命令：

ollama run deepseek-r1:7b

其中，7b表示模型的大小，可以根据实际情况选择更大或更小的模型。

在这里插入图片描述

要实现本地知识库的搭建，还需要一个词嵌入（Embedding）模型，在搭建本地知识库的过程中，选择合适的Embedding模型至关重要，因为Embedding模型直接影响了检索的效果与生成的质量。

我们选取mxbai-embed-large作为嵌入模型。

输入指令：

ollama pull mxbai-embed-large

在这里插入图片描述

等待模型下载完成。

3、下载Cherry Studio

进入Cherry Studio官网（https://cherry-ai.com/），点击下载客户端。

在这里插入图片描述

点击“立即下载”，即可下载windows版本的安装包，也可以点击“其他版本或备用路线下载”，下载其它系统的安装包，支持macOS和Linux。

在这里插入图片描述

按照提示进行安装即可。安装后打开Cherry Studio。

Cherry的组织逻辑如下：

1.助手：助手即智能体。打开Cherry Studio后，将默认选中“默认助手”，默认助手是不带有任何提示词的智能体，等同于直接跟LLM对话（跟在网页中对话效果一样）。Cherry Studio中支持通过提示词自定义建智能体。

2.话题：每个智能体下有多个话题。话题也就是会话每个话题中会记录多轮对话（跟在网页中的不同聊天记录一样）。

3.知识库：知识库由用户上传的资料组成，支持txt、html、md、docx、pptx、xlsx、pdf，等常见的文本格式，DeepSeek模型不支持图片。每个助手中的每个话题都可以对知识库进行调用。

在这里插入图片描述

4、配置模型与知识库

点击页面左下角的设置，点击模型服务，选择Ollama，点击管理。

在这里插入图片描述

这里将会自动加载Ollama中已下载的DeepSeek模型与嵌入模型，我们选择刚刚下载的模型，点击加号。

在这里插入图片描述

模型配置结束。

现在开始配置知识库。点击左侧的知识库图标，点击添加。

在这里插入图片描述

知识库的名称可以自定义，这里定义为课程PPT，嵌入模型选择刚刚配置好的Ollama嵌入模型。点击确定。

在这里插入图片描述

选择想要上传的文件，等待所有文件向量化完成（出现绿色对勾）后，知识库配置完毕。我们在这里上传《PyTorch计算机视觉与深度学习实战》的课程PPT，让模型在PPT中查阅信息。

在这里插入图片描述

5、开始对话

点击左侧第一个图标，进入对话页面，在对话框中点击知识库图标。

在这里插入图片描述

选择刚刚配置的知识库，选择完成后，图标将会显示蓝色。

输入@或点击下方的@图标，选择配置好的Ollama模型

在这里插入图片描述

接下来，对模型提出需求“请介绍第7章的基本内容”。从结果中可以看出，模型成功地检索出了第7章的PPT，并且介绍了第7章的主要内容。

在这里插入图片描述

如果不涉及隐私和机密信息，还可以尝试通过硅基流动，调用更大的模型，更大的模型效果更好。

我们选择硅基流动的DeepSeek-R1模型（首先要在模型服务中配置硅基流动的API key）。

在这里插入图片描述

可以看到，更大的模型实现了更好的效果，模型的回复中给出了精确的引用，并且更加全面的介绍了第7章的内容。

如果想要实现更好的知识库检索效果，可以尝试本地部署更大的模型。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】