最近发现一个不错的大模型管理平台,可以本地部署,可以设置rag知识库搜索增强生成,还可以设置 工作流,更让我惊讶的是,只需一句代码,就可以将你构造的 大模型机器人,或者rag知识库搜索嵌入到自己已有的网站,真的是网站升级AI人工智能的利器,废话不多说,上项目。
项目介绍
MaxKB = Max Knowledge Base,是一款基于大语言模型和 RAG 的开源知识库问答系统,广泛应用于企业内部知识库、客户服务、学术研究与教育等场景。
- 开箱即用:支持直接上传文档、自动爬取在线文档,支持文本自动拆分、向量化、RAG(检索增强生成),智能问答交互体验好;
- 模型中立:支持对接各种大语言模型,包括本地私有大模型(Llama 3 / Qwen 2 等)、国内公共大模型(通义千问 / 智谱 AI / 百度千帆 / Kimi / DeepSeek 等)和国外公共大模型(OpenAI / Azure OpenAI / Gemini 等);
- 灵活编排:内置强大的工作流引擎,支持编排 AI 工作过程,满足复杂业务场景下的需求;
- 无缝嵌入:支持零编码快速嵌入到第三方业务系统,让已有系统快速拥有智能问答能力,提高用户满意度。
项目部署
我比较喜欢docker部署
docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data -v ~/.python-packages:/opt/maxkb/app/sandbox/python-packages cr2.fit2cloud.com/1panel/maxkb
# 用户名: admin
# 密码: MaxKB@123..
-
你也可以通过 1Panel 应用商店 快速部署 MaxKB + Ollama + Llama 3,30 分钟内即可上线基于本地大模型的知识库问答系统,并嵌入到第三方业务系统中;
-
如果是内网环境,推荐使用 离线安装包 进行安装部署;
-
你也可以在线体验:DataEase 小助手,它是基于 MaxKB 搭建的智能问答系统,已经嵌入到 DataEase 产品及在线文档中;
使用测试
1、配置模型
这里演示一下添加模型openai,和 ollama,第一次进入页面需要修改默认密码
这是首页
首先在【系统管理-模型设置】配置要用的模型,
ollama
点击【添加模型】,选择供应商【Ollama】,直接进入下一步填写 Ollama 供应商的大模型表单。或者左侧供应商先选择【 Ollama 】,然后点击【添加模型】,则直接进入 Ollama 表单。
- 模型名称:MaxKB 中自定义的模型名称。
- 模型类型:大语言模型或向量模型。
- 基础模型:供应商的 LLM 模型,支持自定义输入,但需要与供应商的模型名称保持一致,系统会自动下载部署模型。
- API 域名和 API Key: Ollama 服务地址,例如:http://42.92.198.53:11434 。若没有设置 API Key,可以输入任意字符。
点击【添加】后校验通过则添加成功,便可以在应用的 AI 模型列表选择该模型。
chatgpt
如果没有梯子,这个地址你也可以使用国内的代理商的地址,需要可以找我哈哈【夹带个私货】
在模型管理中,点击供应商【 OpenAI 】,直接进入下一步填写 OpenAI 的模型表单。
或者左侧供应商先选择【 OpenAI 】,然后点击【添加模型】,则直接进入 OpenAI 的模型表单。
- 模型名称:MaxKB 中自定义的模型名称。
- 模型类型:大语言模型。
- 基础模型:供应商的 LLM 模型,支持自定义输入,下拉选项是 OpenAI 常用的一些大语言模型如:gpt-3.5-turbo-0613、gpt-3.5-turbo、gpt-4 等。
- API 域名:国外服务器:https://api.openai.com/v1,国内服务器则填写:反向代理地址/v1。* API Key:访问 OpenAI 的 Key。
2、配置知识库
点击创建,您也可以 需要一个web站点
在这里上传知识库文件
3、应用创建
点击创建一个应用,这个应用可以是单纯聊天,也可以使用知识库,这里我上传了一个个人简历做知识库,配置了国内的代理,这就是一个rag了
记得【保存并发布】
集成到我的网站
点击你自己创建的应用的概览,里边有个 【嵌入第三方】
复制这个代码,放入你的主页,就可以了,如下我本地测试的
哈哈,只能说,真的太赞了,我的网站 拥有了人工智能,各位站主试试吧
如何学习大模型
现在社会上大模型越来越普及了,已经有很多人都想往这里面扎,但是却找不到适合的方法去学习。
作为一名资深码农,初入大模型时也吃了很多亏,踩了无数坑。现在我想把我的经验和知识分享给你们,帮助你们学习AI大模型,能够解决你们学习中的困难。
我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习,等录播视频免费分享出来,需要的小伙伴可以扫取。

一、AGI大模型系统学习路线
很多人学习大模型的时候没有方向,东学一点西学一点,像只无头苍蝇乱撞,我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。
二、AI大模型视频教程
三、AI大模型各大学习书籍
四、AI大模型各大场景实战案例
五、结束语
学习AI大模型是当前科技发展的趋势,它不仅能够为我们提供更多的机会和挑战,还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型,我们可以深入了解深度学习、神经网络等核心概念,并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时,掌握AI大模型还能够为我们的职业发展增添竞争力,成为未来技术领域的领导者。
再者,学习AI大模型也能为我们自己创造更多的价值,提供更多的岗位以及副业创收,让自己的生活更上一层楼。
因此,学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。