【实战AI】利用deepseek 在mac本地部署搭建个人知识库

最新推荐文章于 2025-03-14 11:51:03 发布
最新推荐文章于 2025-03-14 11:51:03 发布
阅读量1.1k 收藏 14
点赞数 5
分类专栏： chat AI 文章标签： macos
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/zy_jun/article/details/145558347
版权

之前的文章中实现了本地通过ollma 部署deepseek R1：14b 模型，这里我想继续实现个人知识库，方便自己文档，数据的检索；

下载anythingLLM

地址：

https://anythingllm.com/desktop

下载安装即可；

下载嵌入 文本处理 程序nomic-embed-text

nomic-embed-text

本地终端执行

下载成功

最低0.47元/天 解锁文章
【实战篇】普通人也能上手！手把手教你本地部署 DeepSeek 大模型
再见孙悟空的专栏
02-04 5031
另一方面，本地化部署使得模型离线可用，不受网络限制，用户即使处于网络受限区域，如偏远山区、地下场所，或者网络信号极差的地方，甚至在没有网络连接的情况下，依然能够正常运行模型，满足随时随地使用 AI 的需求。接下来，我将详细地为大家介绍如何进行 DeepSeek 大模型的本地化部署，包括部署前的准备工作、具体的部署步骤、部署后的测试与优化，以及在部署过程中可能遇到的问题及解决方案，希望能帮助大家顺利地将 DeepSeek 大模型部署到本地环境中，充分发挥其强大的功能。
Mac本地化部署deepseek+Ollama+Page Assist+AnythingLLM
YForsyth的博客
02-07 4098
问题-->>AnythingLLM-->>Ollama-->>调用deepseek大语言模型-->>读取向量数据库LanceDB的内容-->>deepseek转换成通俗易懂的文字描述-->>Ollama-->>通过AnythingLLM聊天界面展示-->>答案。文档-->>上传至AnythingLLM-->>通过Ollama-->>调用Nomic Embed Text向量模型进行向量化转换转-->>Ollama-->>AnythingLLM-->>存储到本地的向量数据库LanceDB。
私有化搭建、本地知识库、可联网查询、具备RAG能力的私人DeepSeek
云计算课代表
02-17 1604
对私有化部署的DeepSeek进行设置，搭建本地知识库、联网搜索、RAG（检索增强生成），以实现私人专属AI大模型。
MacM4 部署DeepSeek-R1搭建本地知识库（Ollama +AnythingLLM）
denglei的博客
02-27 402
通过AnythingLLM+DeepSeek R1搭建建知识库，实知识在本地，大模型部署在本地，运算在本地，结果在本地。
mac下dify+deepseek部署，实现私人知识库
猿分已尽的博客
02-10 3044
mac种，使用Dify+deepseek实现私有知识库
DeepSeek+本地知识库：真的太香了
m0_46995061的博客
02-06 2487
整个操作下来，AnythingLLM 的体验没有cherry好。AnythingLLM就像一个包壳的web应用(后来查了下，确实是)。AnythingLLM 得具备一定的程序思维，给技术人员用的。非技术人员还是使用cherry吧。作为喜欢折腾的开发人员，我们可以结合dify使用。个人知识库+本地大模型的优点隐私性很好，不用担心自己的资料外泄、离线可用在工作和学习过程中对自己整理的文档，能快速找到，并自动关联在代码开发上，能参考你的开发习惯，快速生成代码。
5 分钟用满血 DeepSeek R1 搭建个人 AI 知识库（含本地部署）
热门推荐
Jay的个人博客
02-04 5万+
备注：评论区回复“DeepSeek”，免费领取万字DeepSeek指南。看到这里，相信你已经找到最适合自己的 DeepSeek 个人知识库方案了。如果你和大多数人一样，选择使用官方 API ，那就不用再为性能和本地硬件资源发愁；如果你恰好有充足的算力和技术储备，本地部署也是个不错的选择。不过，在整个过程中，我想和你分享的不仅仅是这些技术细节。而是一个中国团队能做出世界级大模型，一个需要 +86 才能注册的大模型。很庆幸，我们能作为中国 AI 技术进步的见证人。当然，暂时的领先不是终点。
mac知识小结
oik_ios的专栏
05-02 377
有时候解决一个小问题就过去了，没过多久又遇到，然后又得google。索性整理成一篇文档，记录下。mac开启任意来源权限：sudo spctl --master-disable
一台MacBook搞定大模型知识库运行！！
musicml的博客
03-23 709
▼最近直播超级多，预约保你有收获—1—为什么要在 MacBook 上搭建知识库？最核心最重要的是我们手上的文档资料出于安全要求，不能随便上传到云服务，也就无法实际验证知识库的实际效用。另外对于 IT 同学来说，自己亲手搭建一个完整的方案、能灵活调整和对接各种不同的模型、评测各种模型不同的表现，也是出于对技术的探索本能使然。使用的 MacBook 配置如下，对大模型经过量化处理（比如：int8）后...
deepseek本地部署及应用部署指南
weixin_39797121的博客
03-06 1179
如果你找到的日志是[send] via NET/IB/0，则表示网络通信是通过IB网络的，但是没有开启GDRDMA技术，则会有大致5%的性能损耗（网传，未实测）。新增的环境变量配置，主要用于启用IB网络通信，而非使用以太网进行通信，详细的每一个参数的具体含义，可以在英伟达NCCL的官方网站上找到说明。下一步，我会对已经完成部署的模型进行压测，来探索系统的性能极限在哪里，以及如何在生产环境中何如进行进一步的性能优化，期待你的关注。
手把手教你打造DeepSeek本地知识库，开启高效知识管理
llhllq2015的博客
02-07 2819
在部署 DeepSeek 本地知识库的过程中，我们首先明确了硬件和软件的需求。从硬件上看，根据模型规模的不同，对 CPU、GPU、内存和存储等硬件组件有不同的要求。小型模型对硬件要求相对较低，而大型模型则需要高性能的硬件配置，如多 GPU 并行计算和大容量的内存及存储。在软件方面，我们需要准备好相应的操作系统、Python 环境、Ollama 以及各种依赖库，确保软件环境的兼容性和稳定性。
如何在本地部署DeepSeek：新手向超详细教程
xiangxueerfei的博客
02-17 1858
至此，你已经成功在本地部署了 DeepSeek，现在你拥有一个完全私密、无限制的 AI 助手，想用多少次都没问题！最近，我的DeepSeek本地部署视频在B站播放量意外小爆，评论区被两类留言淹没：一类是技术爱好者追问“如何用消费级显卡跑通大模型”，另一类是职场人焦虑“我的工作会被AI取代吗？
Mac下使用simiki搭建个人wiki
STHSF的地盘
06-30 4488
写在前面 simiki介绍 目录结构 simiki quick start Mac下部署 网页发布流程 demo展示写在前面本人搭建个人wiki也是机缘巧合，最近一直在尝试学习一点前端的知识，尝试着使用github弄个个人博客啥的玩玩，扩充自己的知识。同时，自己从事算法类的工作，其实也是程序猿的一种啦，这两天在网上查找资料的时候发现了tracholar的个人wiki，我觉得写得不错，同时也是整理自己
deepseek本地部署（在线、离线）、知识库搭建（个人、组织）与代码接入
weixin_46522694的博客
02-12 1万+
本文主要介绍deepSeek本地化容器化部署，知识库搭建与springAI接入。因笔者工作内容原因，也会介绍内网部署方式。
DeepSeek在Mac上本地可视化部署，保姆级教程，再也不怕崩了！
Gaga246的博客
02-10 1万+
DeepSeek，全称为“深度求索”，是由杭州深度求索人工智能技术研究有限公司开发的人工智能产品。这个名字体现了团队的核心理念与追求：DeepSeek 不仅仅是为了回答问题，更是致力于深度理解和探索，让 AI 具备类似人类的思考方式。更重要的是，DeepSeek-R1 的性能足以与 ChatGPT 相媲美，且完全免费供用户使用！
DeepSeek接入个人知识库，Windows和Mac电脑，最新安装包发布！
最新发布
算法channel
03-14 508
技术主要包括，Meilisearch关键词粗晒+嵌入向量细筛（根据微调后的嵌入向量模型），Rerank算法，分词技术，长文本切分、切片合并算法，提示词工程等。，点击右上角的「配置」按钮，配置本地大家已经安装的DeepSeek，若没有安装，可以通过Ollama安装，大家根据自己电脑下载对应的DeepSeek版本。下一版将会重点优化RAG精度，介绍了软件使用的主要技术方案，涉及到的技术，技术难点，我们有信心克服这些困难，给大家带来更快的访问体验。
deepseek本地部署知识库搭建
02-20
### 部署和搭建 DeepSeek 知识库 #### 安装 Ollama 为了在本地环境中部署和搭建 DeepSeek 知识库，首先需要安装 Ollama。这一步骤对于确保后续操作顺利至关重要[^1]。 ```bash pip install ollama ``` #### 准备环境 选择合适的开发环境同样重要。如果是在 Mac 设备上进行配置，则可以参照特定指南来确保兼容性和性能优化[^3]。 #### 启动 DeepSeek R1 模型 完成上述准备工作之后，下一步是从已有的本地模型列表中挑选 `deepseek-r1:14b` 版本启动服务。如果有任何疑问关于如何获取此版本的信息，请查阅相关文档获得帮助[^2]。 ```python from ollama import start_model start_model('deepseek-r1:14b') ``` #### 构建知识库 借助 Cherry-Studio 提供的图形界面工具简化了创建个性化知识库的过程。用户可以通过直观的操作界面对数据源进行管理并定义查询逻辑，从而实现高效的知识管理和检索功能。 #### 维护与更新 定期维护所建立起来的知识体系结构，并随着新资料加入而适时调整索引策略，有助于维持系统的稳定性和响应速度[^4]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

东方鲤鱼

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值