个人数据不想上传？完全离线的本地知识库搭建

本文将展示零成本搭建自己的私有知识库。学会该搭建方法后，可以把自己的个人资料，过往写的文章，Notion等所有个人信息上传到本地知识库。完全离线的工具不多，本文会选择chatbox搭建一个完全离线的知识库。其他的如maxkb，dify，anythingllm 功能更多，但都需要联网和注册，可根据自己的需求选择安装。

如果有企业级别私有部署需求（如有2台H100，H20服务器），可选择vLLM的tp+pp模式部署。有问题可以联系网心算力云讨论

github讨论： https://github.com/vllm-project/vllm/issues/12997#issuecomment-2655359089

OneThingAI官网：OneThingAI算力云 - 热门GPU算力平台

邮箱：onethingai@onething.net

本文会以如下方式展开（操作系统以Windows为例，如果为Mac， Ollama，Chatbox下载对应安装包即可）：

• 安装Ollama

• 安装chatbox

• 创建知识库

主要流程如下，如果选择非Chatbox，替换安装流程即可