个人数据不想上传？完全离线的本地知识库搭建

原创 已于 2025-02-17 19:41:03 修改 · 2.8k 阅读 · 7 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能 #机器学习 #深度学习

于 2025-02-14 15:47:28 首次发布

本文将展示零成本搭建自己的私有知识库。学会该搭建方法后，可以把自己的个人资料，过往写的文章，Notion等所有个人信息上传到本地知识库。完全离线的工具不多，本文会选择chatbox搭建一个完全离线的知识库。其他的如maxkb，dify，anythingllm 功能更多，但都需要联网和注册，可根据自己的需求选择安装。

如果有企业级别私有部署需求（如有2台H100，H20服务器），可选择vLLM的tp+pp模式部署。有问题可以联系网心算力云讨论

github讨论： https://github.com/vllm-project/vllm/issues/12997#issuecomment-2655359089

OneThingAI官网：OneThingAI算力云 - 热门GPU算力平台

邮箱：onethingai@onething.net

本文会以如下方式展开（操作系统以Windows为例，如果为Mac， Ollama，Chatbox下载对应安装包即可）：

  • 安装Ollama

  • 安装chatbox

  • 创建知识库

主要流程如下，如果选择非Chatbox，替换安装流程即可

最低0.47元/天 解锁文章
OneThingAI
关注
《人工智能基础》[工具篇2]：ChatBox怎么使用本地模型和知识库配置教程
专注大数据、云计算、人工智能、机器人领域技术传播
08-20 1963
通过设置-知识库，添加，填入知识库名称、选用的嵌入模型创建好知识库后，点击添加文件按钮+，可以上传本地文件、拖动文件支持上传PDF、DOCX等格式的文档。系统会自动对文档进行处理。批量上传：一次最多上传 50 个文档，总大小不超过 2GB；格式检测：支持 PDF/DOCX/TXT/Markdown，不支持 EXE/RAR 等二进制文件。‌文档类‌图片类‌代码类‌：Python、Java、JavaScript等编程文件‌其他‌：Markdown（用于导出对话记录） ‌。
【实战篇】【搭建本地私有化知识库：用 Ollama 和 AnythingLLM 打造你的专属 AI 大脑】
商务合作|问题讨论|交流学习 请联系作者微信，加微信请务必注明来意，博客主页有联系方式
04-07 1069
最近 AI 火得一塌糊涂，ChatGPT、文心一言、Claude、DeepSeek…… 这些大模型让我又爱又恨。爱的是它们确实能干不少事儿，恨的是每次用都得联网，还得担心隐私泄露，关键是我这种“技术宅”总觉得：这玩意儿我能不能自己搞一个？于是，我开始研究本地化部署 AI 的方案。直到我发现了 Ollama 和 AnythingLLM，这两个工具简直是为我这种想搞私有化知识库的人量身定制的！今天，我就来手把手教你，用这两个工具搭建一个完全属于你的本地 AI 知识库。
手把手教你用Ollama & AnythingLLM搭建AI知识库，无需编程，跟着做就行！
2401_86435672的博客
09-20 1万+
本地运行大模型耗资源，需要选择较小的模型作为基础模型。在终端中运行时可能会出现 CUDA 错误，表示显存不足，导致提供的端口失效。中文支持不够完善。\3. 文中提到的技术软件工具有：Ollama、Chatbox、Open WebUI、向量数据库、嵌入模型、本地模型 Gemma、AnythingLLM。
断网也能聊！Chatbox离线模式全攻略：本地AI交互新体验
最新发布
gitblog_00985的博客
09-10 587
你是否遇到过网络中断时无法使用AI助手的尴尬？重要会议途中突然断网导致思路中断？Chatbox的离线模式彻底解决了这个痛点。本文将带你掌握在无网络环境下使用Chatbox的完整流程，包括本地模型配置、数据存储机制和常见问题解决方案，让你随时随地保持AI生产力。 ## 离线模式核心原理 Chatbox通过整合Ollama技术实现本地AI交互能力，使你无需联网即可运行开源大语言模型。这种架构确保所...
本地如何通过Ollama部署llama3、phi3等本地大模型？
lvaolan8888的博客
06-06 2304
来运行阿里的通译千问大模型，生成内容质量还可以而且速度也很快，（题外：生成的文章如果收录不是很好，最好不要用markdown格式和html格式，直接用文本格式）包括：大模型学习线路汇总、学习阶段，大模型实战案例，大模型学习视频，人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型！观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。
从开发到部署，搭建离线私有大模型知识库
易迟的专栏
05-18 2195
最近一段时间搭建了一套完整的私有大模型知识库，目前完整的服务已经完成测试部署上线。基本之前的实践过程，从工程角度整理技术方案以及中间碰到的一些问题，方便后续对这个方向有需求的研发同学们。本文是搭建离线私有大模型知识库的一次完整实践，整理了主要的实现方案以及离线部署中碰到的一些问题，记录的版本还是一个初步验证版本，知识库的实践还需要对中间环节进行大量调优，目前存在大量的论文进行这方面的研究，个人也在持续进行多轮的迭代调优，后续会持续整理和分享中间碰到的有价值的内容，欢迎持续关注。
最强开源大模型炸场！全网独一份AI大模型学习实践资源...（待会删）
Y525698136的博客
08-07 1492
最强开源大模型炸场！全网独一份AI大模型学习实践资源...（待会删）
搭建个人知识库
weixin_42907150的博客
02-22 2425
这次简单的尝试了本地部署 LLM + 外挂知识库的方式来搭建一个私有化的知识库，整体来看还有一些提升空间，比如模型的选择上，ChatGLM3 适合于小型的系统，如果有更多的资源，则可以考虑其他更大的模型 , 如 ChatGLM-130B。
超详细保姆教程：跟我学，用Ollama + Chatbox/AnythingLLm搭配DeepSeek从零搭建本地知识库
weixin_37991383的博客
02-07 1万+
当今公司各部门受繁杂信息困扰，急需专属知识小助手。本文聚焦本地搭建知识库的 AI 教程，核心工具为 Ollama、Chatbox 或 AnythingLLm 及 DeepSeek。Ollama 便捷下载模型，筑牢运行根基；Chatbox 等能精准输出办公知识；DeepSeek 凭检索担 “智慧担当”。这教程利于学生党学习，更是职场人提效利器，依之操作可快速打造 AI 小助手，攻克难题、推动公司发展。
使用cherry studio离线搭建私人知识库流程记录
u010681011的专栏
07-26 790
本文介绍了如何在离线环境下搭建个人知识库，使用ollama管理本地大模型(如DeepSeek、千问7B)和bge-m3嵌入模型。通过魔塔社区下载GGUF格式模型文件，创建modelfile配置文件导入ollama，最后在CherryStudio中配置知识库实现离线检索。该方案具有数据隐私保护、高效知识管理等优势，适合需要自主掌控数据的用户。文末提供了相关工具的下载链接。
【实验笔记】麒麟系统DeepSeek——基于CherryStudio搭建本地知识库（离线）
qq_33216613的博客
03-02 2641
麒麟Kylin-Desktop-V10-SP1系统 基于CherryStudio搭建本地知识库（离线）的详细操作步骤
离线数据仓库项目搭建——准备篇
qq_40905284的博客
03-03 2298
离线数据仓库项目搭建，基础知识梳理和准备
手把手教你怎么用DeepSeek打造离线知识库
许泽宇的技术分享
03-01 1327
各位打工人请注意！今天要教你们一个可以写进年终述职报告的硬核技能 —— 用国产之光 DeepSeek 搭建企业级知识库！不需要写代码，不需要买显卡，甚至不需要会装系统，看完这篇文，你司的 AI 转型 KPI 就由你来 carry！
用了很多年的PC端离线版个人知识管理软件PKM2 Manager推荐给大家
爱海贼的无处不在的技术博客
04-02 1万+
对于从事IT行业的童鞋来说，每人每天每月都会遇到大量的新知识与旧知识出现在眼前，从而就会出现知识容易遗忘、经验容易流失的情况。比如，曾经遇到过的某类问题，今天再次出现了；或曾经做过一次事情步骤，今天要再次重新做一遍等等。对这些众多的知识若没有有效的管理，最后就会造成工作的效率低下。 一、个人想法与思考 对于类似这种现象与问题，借助相关的PKM(个人知识管理)软件，基本解决诸如此类的问题。如果你...
Ollama搭建DeepSeek本地大模型 + 聊天工具（ChatBox）+ 私有知识库（Cherry Studio）
weixin_42009760的博客
02-11 8703
如果要修改模型的保存地址，可以新建一个文件夹如 “D:\Model”的路径，然后在系统环境变量添加系统变量：“变量名：OLLAMA_MODELS，变量值：D:\Model”。step4:在确保Ollama 安装完成后，按下win+R键然后输入cmd 打开命令行窗口，在命令窗口输入大模型的命令ollama run deepseek-r1启动模型。ChatBox 是一个专注于聊天工具设计的开源平台，结合了高效的交互技术和丰富的功能，旨在为用户提供更流畅、更个性化的交流体验。
10分钟搞定！Chatbox+本地知识库=你的私人语音导师：企业级全栈实现指南
LCG元的博客
07-15 1254
本文提出了一种基于开源工具链的本地化语音学习助手方案，通过边缘计算和本地知识库解决了传统云端方案的延迟、隐私和专业适配问题。系统采用Whisper.cpp语音识别、FAISS向量检索和本地TTS合成，实现端到端毫秒级响应（平均延迟3.2秒），相比云端方案性能提升112%，成本降低83%。架构设计包含智能路由层、多格式知识库构建器和安全审计机制，支持离线部署和敏感数据保护。实测显示专业问题准确率达92%，同时提供Docker化部署方案和RBAC权限控制。该方案为语言学习领域提供了高效、安全、可定制的技术路径。
deepseek本地部署（在线、离线）、知识库搭建（个人、组织）与代码接入
热门推荐
weixin_46522694的博客
02-12 2万+
本文主要介绍deepSeek本地化容器化部署，知识库搭建与springAI接入。因笔者工作内容原因，也会介绍内网部署方式。
【Ollama+ChatBox+AnythingLLM】在 Mac 上部署 DeepSeek本地知识库
三十的博客
02-07 2062
一种在部署完本地大模型后搭建属于自己的知识库的简单方法AnythingLLM。本文以 DeepSeek-r1 为例，介绍一种最简单的方式来搭建与部署本地知识库。
小白就能上手的deepseek本地部署大全--ollama+chatbox构建私人本地知识库
baidu_41670414的博客
02-23 562
DeepSeek是一个强大的开源AI模型系列，由深度求索(DeepSeek)开发。DeepSeek-Coder：专注于代码开发的AI助手，精通多种编程语言。DeepSeek-Chat：通用对话模型，支持中英双语，可处理多领域问题。DeepSeek-MoE：基于专家混合的大规模语言模型。特点是开源、性能强大，在代码理解和生成方面表现出色。所谓的解题思路，就是它内置的提示词库：https://api-docs.deepseek.com/zh-cn/prompt-library/
win7离线搭建个人知识库
03-09
<think>好的，用户想在Windows 7离线环境下搭建个人知识库。首先，我需要考虑Windows 7的兼容性，因为现在很多新软件可能不再支持这个系统。用户需要离线使用，所以必须选择可以本地部署的工具。 根据之前提供的引用，Archivy和Ollama+AnythingLLM是可行的选择。但需要检查它们对Windows 7的支持情况。Archivy是基于Python的，可能需要Python环境，而Windows 7默认可能没有安装。Ollama可能支持Windows，但版本是否兼容Windows 7需要确认。 另外，引用[3]提到使用Ollama和AnythingLLM部署DeepSeek模型，但DeepSeek的模型可能需要较高的硬件配置，特别是1.5b的模型。用户是否有足够的硬件资源？比如内存和处理器性能。 步骤方面，可能需要先安装Python环境，再通过pip安装Archivy。如果用户不熟悉命令行，可能需要详细指导。对于Ollama，可能需要下载旧版本或特定版本兼容Windows 7，但存在风险，因为官方可能不再维护。 此外，数据存储的安全性也是需要考虑的，确保所有数据保存在本地，不会上传到云端。可能需要配置Archivy的存储路径，或者AnythingLLM的数据库设置。 还需要考虑备份方案，指导用户如何定期备份知识库数据，防止数据丢失。最后，生成相关问题，帮助用户进一步优化或解决潜在问题。</think>在Windows 7离线环境中创建个人知识库可通过以下步骤实现： ### 一、基础环境搭建 1. 安装Python环境（推荐3.8+版本） - 访问[Python官网]下载Windows x86-64 MSI安装包 - 安装时勾选"Add Python to PATH"选项 - 验证安装：`$ python --version` 2. 部署本地数据库 - 推荐使用SQLite（无需单独安装）或MySQL Portable版 - 例如使用SQLite： ```bash $ pip install sqlite-web ``` ### 二、知识库软件选择 根据引用[2][3]推荐方案： 1. **Archivy方案**（轻量级）： ```bash $ pip install archivy $ archivy init # 初始化配置 $ archivy run # 启动服务 ``` - 配置文件路径：`C:\Users\[用户名]\.archivy\config.yml` - 修改`data_dir`指定本地存储路径 2. **Ollama+AnythingLLM方案**（含AI功能）： 1. 下载Ollama Windows版（需确认Windows 7兼容性） 2. 获取DeepSeek模型： ```bash $ ollama pull deepseek-r:1.5b ``` 3. 安装AnythingLLM桌面版 4. 配置本地模型路径： ```ini # config.yaml local_models: deepseek: C:\ollama\models\deepseek-r_1.5b ``` ### 三、数据安全设置 1. 创建定期备份脚本`backup.bat`： ```batch @echo off 7z a -t7z "D:\kb_backup_%date:~0,4%%date:~5,2%%date:~8,2%.7z" "C:\knowledge_base" -mx9 ``` 2. 启用本地加密存储（以VeraCrypt为例）： - 创建10GB加密容器 - 挂载为虚拟磁盘存放知识库文件 ### 四、离线功能验证 1. 网络连接检测： ```python import socket s = socket.socket() try: s.connect(("8.8.8.8", 53)) except: print("当前处于离线环境") ``` 2. 本地服务状态检查： ```powershell Get-Service -Name "OllamaService" | Select Status ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值