基于开源MaxKB构建大语言模型的本地知识库系统（附全流程教程）

原创 于 2025-09-06 08:00:00 发布 · 837 阅读 · 22 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#开源 #人工智能 #自然语言处理 #langchain #LLM #RAGFlow #本地知识库

什么是MaxKB

MaxKB是一款基于LLM（Large Language Model）大语言模型的知识库问答系统。MaxKB的产品命名内涵为“Max Knowledge Base”，为用户提供强大的学习能力和问答响应速度，致力于成为企业的最强大脑。

开源：https://github.com/1Panel-dev/MaxKB

文档：https://maxkb.cn/docs/

安装MaxKB

1.系统介绍

系统：ubuntu 22.04   docker：  Docker version 26.1.3, build b72abbb   IP：192.168.1.23

需要安装docker

2.基于Docker安装MaxKB

# mkdir -p /data/docker/maxkb   # docker run -itd --restart always --name=maxkb -p 8080:8080 -v /data/docker/maxkb:/var/lib/postgresql/data 1panel/maxkb

3.浏览器访问

IP+端口访问

输入默认的用户名和密码

# 用户名: admin   # 密码: MaxKB@123..

使用MaxKB

如下图，进入后台之后有“应用”，“知识库”，“系统管理”三大主要功能。

创建应用

主要选择 AI模型，添加模型

除了基于OpenAI、Ollama、百度千帆大模型等在线大模型快速搭建知识库问答系统，这里可以添加第三方的大模型。

本地安装Olloma

MaxKB还支持与以Ollama为代表的本地私有大模型相结合，快速部署本地的知识库问答系统。

可以参考之前的：https://mp.weixin.qq.com/s/TVC_XKC1ZdVggNdas–Mhg

root@star-ai:~# ollama list   NAME                    ID              SIZE    MODIFIED        llama3-cn:latest        8adc5a8a5c36    6.6 GB  11 days ago    qwen:0.5b               b5dc5e784f2a    394 MB  2 months ago   llama2:latest           78e26419b446    3.8 GB  2 months ago   qwen:32b                26e7e8447f5d    18 GB   2 months ago   gemma:latest            a72c7f4d0a15    5.0 GB  2 months ago   phi3:latest             a2c89ceaed85    2.3 GB  2 months ago   llama3:latest           a6990ed6be41    4.7 GB  2 months ago   qwen:14b                80362ced6553    8.2 GB  2 months ago   qwen:latest             d53d04290064    2.3 GB  2 months ago

配置本地的Olloma模型

后台，点击 Olloma再点击添加模型

API 域名 填入本机的安装ollama

api key ，没有则可以随便填

使用

点击演示会在新页面打开

嵌入第三方可以内嵌页

演示：

嵌入第三方

MaxKB创建知识库

1.创建知识库

在MaxKB应用界面中，点击“知识库”菜单，选择创建知识库，填写相关信息后创建并导入知识库。在“知识库类型”选项中，离线文档选择“通用型”类型，在线文档选择“Web站点”类型。知识库创建界面如下：

MaxKB支持用户使用文档列表查看导入的文本数据。系统会自动爬取根地址及子地址的文本数据，按照URL地址生成文档，并自动拆分和进行向量化处理。

2.创建应用

关联知识库

选择刚才的知识库

在知识库中看到关键字“linux教程”

在应用对话中“linux教程”

结尾

MaxKB社区版的一些限制

知识库数量：最多支持创建 50 个

应用数量：最多支持创建 5 个

用户管理：最多支持创建 2 个

把它用作网站或者APP的机器人客服也是不错的选择。

大模型算是目前当之无愧最火的一个方向了，算是新时代的风口！有小伙伴觉得，作为新领域、新方向人才需求必然相当大，与之相应的人才缺乏、人才竞争自然也会更少，那转行去做大模型是不是一个更好的选择呢？是不是更好就业呢？是不是就暂时能抵抗35岁中年危机呢？

答案当然是这样，大模型必然是新风口！

那如何学习大模型 ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。但是具体到个人，只能说是：

最先掌握AI的人，将会比较晚掌握AI的人有竞争优势。
这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

但现在很多想入行大模型的人苦于现在网上的大模型老课程老教材，学也不是不学也不是，基于此我用做产品的心态来打磨这份大模型教程，深挖痛点并持续修改了近100余次后，终于把整个AI大模型的学习路线完善出来！

在这里插入图片描述

在这个版本当中：

您只需要听我讲，跟着我做即可，为了让学习的道路变得更简单，这份大模型路线+学习教程已经给大家整理并打包分享出来, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉优快云大礼包🎁：全网最全《LLM大模型学习资源包》免费分享（安全咨料，放心领取）👈

​

一、大模型经典书籍（免费分享）

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套大模型报告（免费分享）

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)
在这里插入图片描述

三、大模型系列视频教程（免费分享）

在这里插入图片描述

四、2025最新大模型学习路线（免费分享）

我们把学习路线分成L1到L4四个阶段，一步步带你从入门到进阶，从理论到实战。

img

L1阶段:启航篇丨极速破界AI新时代

L1阶段：了解大模型的基础知识，以及大模型在各个行业的应用和分析，学习理解大模型的核心原理、关键技术以及大模型应用场景。

img

L2阶段：攻坚篇丨RAG开发实战工坊

L2阶段：AI大模型RAG应用开发工程，主要学习RAG检索增强生成：包括Naive RAG、Advanced-RAG以及RAG性能评估，还有GraphRAG在内的多个RAG热门项目的分析。

img

L3阶段：跃迁篇丨Agent智能体架构设计

L3阶段：大模型Agent应用架构进阶实现，主要学习LangChain、 LIamaIndex框架，也会学习到AutoGPT、 MetaGPT等多Agent系统，打造Agent智能体。

img

L4阶段：精进篇丨模型微调与私有化部署

L4阶段：大模型的微调和私有化部署，更加深入的探讨Transformer架构，学习大模型的微调技术，利用DeepSpeed、Lamam Factory等工具快速进行模型微调，并通过Ollama、vLLM等推理部署框架，实现模型的快速部署。

img

L5阶段：专题集丨特训篇 【录播课】

img

全套的AI大模型学习资源已经整理打包，有需要的小伙伴可以微信扫描下方二维码，免费领取

👉优快云大礼包🎁：全网最全《LLM大模型学习资源包》免费分享（安全资料，放心领取）👈

​

Llama-Turbo
关注
MaxKB基于大语言模型和 RAG 的开源知识库问答系统开发环境搭建
洛阳泰山的博客
12-23 2551
MaxKB = Max Knowledge Base，是一款基于大语言模型和 RAG 的开源知识库问答系统，广泛应用于智能客服、企业内部知识库、学术研究与教育等场景。作为一款专注于知识库问答场景的软件产品，MaxKB 能够为企业的智能化进程注入新的动力，助力企业实现“提质增效”的目标。在知识库管理方面，MaxKB 帮助企业实现知识采集、知识入库、知识库构建的全流程自动化；在场景化智能搜索方面，MaxKB 能够解析用户输入的问题并匹配检索知识库；
构建本地大语言模型知识库问答系统
sumatch的博客
04-28 2910
Ollama 是一个基于 Go 语言开发的简单易用的本地大语言模型运行框架。官方提供了类似 GitHub，DockerHub 一般的，可类比理解为 ModelHub，用于存放大语言模型的仓库(有 llama 2，mistral，qwen 等模型，同时你也可以自定义模型上传到仓库里来给别人使用)。除了基于 OpenAI、百度千帆大模型等在线大模型快速搭建知识库问答系统外，MaxKB 还支持与以 Ollama 为代表的本地私有大模型相结合，快速部署本地的知识库问答系统。，快速安装 MaxKB 应用。
本地/服务器部署Dify傻瓜式教程
研究AI应用，实践AI增效。
06-21 6169
​之前在AI大模型生态最态势及相关技术-25.5.27-优快云博客中提到了搭建AI Agent新贵平台 Dify，在从意识里懂一下Dify-优快云博客进一步对Dify进行了介绍。 今天以简单易懂的方式讲解一下怎么在本地/服务器上部署Dify（下二、3），添加不同模型供应商的大模型，以及实践过程中遇到的问题。
【Ai教程】Ollma安装 | 0代码本地运行Qwen大模型，保姆级教程来了！
王傲旗的大数据之路
11-07 3172
我们平时使用的ChatGPT、kimi、豆包等Ai对话工具，其服务器都是部署在各家公司的机房里，如果我们有一些隐私数据发到对话中，很难保证信息是否安全等问题，如何在保证数据安全的情况下，又可以使用大预言模型，Ollma（哦拉玛）可以告诉你答案！
开源模型应用落地-工具使用篇-Ollama（六）
热门推荐
以微薄之力，予他人些许温暖.
03-05 2万+
Ollama集成QWen1.5系列模型，全网唯一，绝非搬运。
从零部署Qwen大模型：vLLM实战指南，零基础小白收藏这一篇就够了！
最新发布
2401_82469710的博客
08-14 1049
本文将手把手教你使用高性能推理引擎vLLM部署Qwen大模型，并提供Python和Java两种语言的实现代码，帮助不同技术背景的开发者快速上手。
Deepseek本地部署详细指南！从 Ollama 到个人知识库应用
2401_85375186的博客
02-10 2738
通过学习大模型课程，可以掌握设计和实现基于大模型的应用系统所需的基本原理和技术，从而提升自己在数据处理、分析和决策制定方面的能力。在配置 url 时，因为是 docker 服务，http://localhost:11434 存在无法访问的情况，可以尝试http://host.docker.internal:11434。访问https://ollama.com/library/deepseek-r1，默认为 7b 模型，如需其他模型，可以在当前页搜索所需模型。：智能制造和自动化工厂提高了生产效率和质量。
操作教程丨MaxKB+Ollama：快速构建基于大语言模型的本地知识库问答系统
FIT2CLOUD飞致云的博客
04-18 1万+
30分钟上线基于大语言模型的知识库问答系统。
利用大模型技术，打造本地个人专属知识库
晨曦蜗牛
06-27 2791
预训练的大型语言模型已经成为推动自然语言处理领域进步的关键力量。这些模型凭借其强大的语境理解、生成和交互能力，在信息检索、知识管理、创意辅助等多个领域展现出巨大潜力。然而，当前大多数应用依赖于云端服务，用户数据需上传至远程服务器进行处理，这不仅涉及隐私安全问题，也对网络环境有较高要求。鉴于此，利用主流开源大模型技术，构建一套运行于本地环境的个人专属知识库系统，整合个人积累资源，实现知识的高效管理、个性化学习与创作辅助，同时保障用户数据的私密性与安全性与充分应用本地计算资源。
基于大语言模型和 RAG 的知识库问答系统 开箱即用、模型中立、灵活编排，支持快速嵌入到第三方业务系统
12-03
基于大语言模型和 RAG 的知识库问答系统MaxKB，是一套集成前沿人工智能技术的问答解决方案。该系统结合了大规模语言模型的强大理解和生成能力，以及RAG（Retrieval-Augmented Generation）技术，旨在提升智能客服、...
在本地部署deepseek！
huangdastudio的博客
01-31 1195
3.我们找到LMStudio的模型目录，先创建一个目录，作为发布者，然后再创建一个目录，作为模型的目录，然后把模型拖进去，不出意外的话，模型这会正确显示的。PS：首先LMStudio是可以自己下载模型的，但服务器在海外，所以需要一点手段，但我这没有这东西，所以有条件的调到第4步即可~我们点聊天图标，然后创建一个对话，在上面选择我们的模型，点加载模型，等进度条跑完，就可开始对话了。2.我们找到自己想要的模型，戳一下，再点模型文件，找到适合自己的下载。部署的方法，好的废话不多说，开始我们的内容吧！
本地部署DeepSeek-R1 1.5B
weixin_44502794的博客
01-22 1万+
然后输入ollama run deepseek-r1:1.5b。然后打开windows powershell。等待ollama下载完模型，就是可以使用了。然后安装ollama。
DeepSeek本地部署教程(保姆级教程)
XXXXsssxwd的博客
01-30 1万+
【代码】DeepSeek本地部署教程(保姆级教程)
DeepSeek本地部署（局域网+异地访问）数据库（保姆教程）
2401_85343303的博客
03-02 1万+
前面三个篇幅介绍本地部署DeepSeek+数据库及联网搜索的方法，后台又收到新的需求，“通过局域网或异地公网访问本地部署的DeepSeek+数据库”， 这是一个常见的场景，我也有用到，本次将整理分享配置“局域网或异地公网”访问的方法！DeepSeek本地部署全攻略：局域网共享+远程访问一体化方案【项目概述】关于DeepSeek 本地化部署、搭建个人知识库（资料库）、联网搜索及本地化可视化管理。共分享了三套部署方案。这一篇着重介绍了局域网访问及异地公网访问本地DeepSeek知识库的方法。
手把手带你搞懂Deepseek-V3 低成本知识库，收藏这一篇就够了！！
2401_85325397的博客
01-20 1万+
1 可以通过 api 添加各种模型 2 上传文档就能本地新建知识库 3 各种 AI 工具直接打开 4 知识库配合 deepseek 3 ，加上 COT 提示词 效果不错 5 还能画图 6 有简单 Artifacts 功能，直接渲染代码 7 可以多个模型一起回答问题，就是样式是直接铺下来的。
大模型组件：分词器（tokenizer）
CITY_OF_MO_GY的博客
02-27 1311
最后，我们再用通俗的话总结一下它的流程：1）输入语言文本给分词器；2）分词器拿到文本信息，根据具体的分词算法（例如：BPE）将文本划分为单个的词元（token）；3）根据对应的词汇表将每个词元对应唯一编码（token ID）；4）分词器输出这些唯一编码给Embeding词嵌入模型；到这里分词器的输入任务就完成了5）词嵌入模型将token ID映射到固定维度的语义空间，生成语义特征张量；6）将语义特征张量添加位置索引等信息后送入transformer模块进行推理；
deepseek本地部署
2402_89015641的博客
06-22 1227
DeepSeek 本地部署是指将 DeepSeek 公司开发的大语言模型（如 DeepSeek-V2、DeepSeek-Coder、DeepSeek-R1 等）部署在你自己的本地计算机、服务器、或者私有云环境中运行，而不是通过官方提供的 API 或网页接口使用。换句话说，本地部署就是数据在自己的设备上运行，而不是交给deepseek官方服务器，数据不出本地的好处就是响应速度快，但是同时需要较强显卡或大内存。
win11通过ollama本地部署deepseek-r1:1.5b
李昂的博客
01-24 1万+
deepseek-r1:1.5b这个模型确实很轻量资源占用很少，应该也就占用1GB多点显存，但是也确实比较呆，很多问题都回答不上来，这里如果想要运行其他模型，可以参考ollama的技术文档https://ollama.readthedocs.io/quickstart/ 里面说明了其他模型运行的方式以及所需要的资源。下载完成后安装ollama，默认安装在c盘下面，这个通过默认安装方式无法更改模型就行，安装完成后可以打开CMD窗口输入。首次运行会自动下载模型，运行完成后就可以进行正常交互了。
MaxKB：基于大模型的企业级知识库问答系统
MaxKB是一款基于大语言模型（LLM，Large Language Model）构建的智能知识库问答系统，其全称为“Max Knowledge Base”，寓意为企业打造一个“最强大脑”。该系统通过融合自然语言处理、向量化存储、文档自动解析与...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值