基于开源MaxKB构建大语言模型的本地知识库系统(附全流程教程)

【大模型】Ollama+open-webuiAnything LLM部署本地大模型构建RAG个人知识库教程(Mac) 如果需要,可以使用AnythingLLM的开发者API进行自定义集成,以满足特定的业务需求。 阅读详情

什么是MaxKB

MaxKB是一款基于LLM(Large Language Model)大语言模型的知识库问答系统。MaxKB的产品命名内涵为“Max Knowledge Base”,为用户提供强大的学习能力和问答响应速度,致力于成为企业的最强大脑。

开源:https://github.com/1Panel-dev/MaxKB

文档:https://maxkb.cn/docs/

安装MaxKB

1.系统介绍

系统:ubuntu 22.04   docker:  Docker version 26.1.3, build b72abbb   IP:192.168.1.23

需要安装docker

2.基于Docker安装MaxKB

# mkdir -p /data/docker/maxkb   # docker run -itd --restart always --name=maxkb -p 8080:8080 -v /data/docker/maxkb:/var/lib/postgresql/data 1panel/maxkb

3.浏览器访问

IP+端口访问

输入默认的用户名和密码

# 用户名: admin   # 密码: MaxKB@123..

使用MaxKB

如下图,进入后台之后有“应用”,“知识库”,“系统管理”三大主要功能。

创建应用

主要选择 AI模型,添加模型

除了基于OpenAI、Ollama、百度千帆大模型等在线大模型快速搭建知识库问答系统,这里可以添加第三方的大模型。

本地安装Olloma

MaxKB还支持与以Ollama为代表的本地私有大模型相结合,快速部署本地的知识库问答系统。

可以参考之前的:https://mp.weixin.qq.com/s/TVC_XKC1ZdVggNdas–Mhg

root@star-ai:~# ollama list   NAME                    ID              SIZE    MODIFIED        llama3-cn:latest        8adc5a8a5c36    6.6 GB  11 days ago    qwen:0.5b               b5dc5e784f2a    394 MB  2 months ago   llama2:latest           78e26419b446    3.8 GB  2 months ago   qwen:32b                26e7e8447f5d    18 GB   2 months ago   gemma:latest            a72c7f4d0a15    5.0 GB  2 months ago   phi3:latest             a2c89ceaed85    2.3 GB  2 months ago   llama3:latest           a6990ed6be41    4.7 GB  2 months ago   qwen:14b                80362ced6553    8.2 GB  2 months ago   qwen:latest             d53d04290064    2.3 GB  2 months ago

配置本地的Olloma模型

后台,点击 Olloma再点击添加模型

API 域名 填入本机的安装ollama

api key ,没有则可以随便填

使用

点击演示会在新页面打开

嵌入第三方可以内嵌页

演示:

嵌入第三方

MaxKB创建知识库

1.创建知识库

在MaxKB应用界面中,点击“知识库”菜单,选择创建知识库,填写相关信息后创建并导入知识库。在“知识库类型”选项中,离线文档选择“通用型”类型,在线文档选择“Web站点”类型。知识库创建界面如下:

MaxKB支持用户使用文档列表查看导入的文本数据。系统会自动爬取根地址及子地址的文本数据,按照URL地址生成文档,并自动拆分和进行向量化处理。

2.创建应用

关联知识库

选择刚才的知识库

在知识库中看到关键字“linux教程”

在应用对话中“linux教程”

结尾

MaxKB社区版的一些限制

知识库数量:最多支持创建 50 个

应用数量:最多支持创建 5 个

用户管理:最多支持创建 2 个

把它用作网站或者APP的机器人客服也是不错的选择。

如何系统的去学习大模型LLM ?

大模型时代,火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业?”“谁的饭碗又将不保了?”等问题热议不断。

事实上,抢你饭碗的不是AI,而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后,很多中小企业也陆续进场!超高年薪,挖掘AI大模型人才! 如今大厂老板们,也更倾向于会AI的人,普通程序员,还有应对的机会吗?

与其焦虑……

不如成为「掌握AI工具的技术人」,毕竟AI时代,谁先尝试,谁就能占得先机!

但是LLM相关的内容很多,现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学,学习成本和门槛很高。

基于此,我用做产品的心态来打磨这份大模型教程,深挖痛点并持续修改了近70次后,终于把整个AI大模型的学习门槛,降到了最低!

在这个版本当中:

第一您不需要具备任何算法和数学的基础
第二不要求准备高配置的电脑
第三不必懂Python等任何编程语言

您只需要听我讲,跟着我做即可,为了让学习的道路变得更简单,这份大模型教程已经给大家整理并打包,现在将这份 LLM大模型资料 分享出来:包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓

👉优快云大礼包🎁:全网最全《LLM大模型入门+进阶学习资源包》免费分享(安全链接,放心点击)👈

​

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点,那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集,涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)
在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程(LLaLA/Meta/chatglm/chatgpt)

在这里插入图片描述

五、AI产品经理大模型教程

在这里插入图片描述

LLM大模型学习路线 ↓

阶段1:AI大模型时代的基础理解

  • 目标:了解AI大模型的基本概念、发展历程和核心原理。

  • 内容:

    • L1.1 人工智能简述与大模型起源
    • L1.2 大模型与通用人工智能
    • L1.3 GPT模型的发展历程
    • L1.4 模型工程
    • L1.4.1 知识大模型
    • L1.4.2 生产大模型
    • L1.4.3 模型工程方法论
    • L1.4.4 模型工程实践
    • L1.5 GPT应用案例

阶段2:AI大模型API应用开发工程

  • 目标:掌握AI大模型API的使用和开发,以及相关的编程技能。

  • 内容:

    • L2.1 API接口
    • L2.1.1 OpenAI API接口
    • L2.1.2 Python接口接入
    • L2.1.3 BOT工具类框架
    • L2.1.4 代码示例
    • L2.2 Prompt框架
    • L2.3 流水线工程
    • L2.4 总结与展望

阶段3:AI大模型应用架构实践

  • 目标:深入理解AI大模型的应用架构,并能够进行私有化部署。

  • 内容:

    • L3.1 Agent模型框架
    • L3.2 MetaGPT
    • L3.3 ChatGLM
    • L3.4 LLAMA
    • L3.5 其他大模型介绍

阶段4:AI大模型私有化部署

  • 目标:掌握多种AI大模型的私有化部署,包括多模态和特定领域模型。

  • 内容:

    • L4.1 模型私有化部署概述
    • L4.2 模型私有化部署的关键技术
    • L4.3 模型私有化部署的实施步骤
    • L4.4 模型私有化部署的应用场景

这份 LLM大模型资料 包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓

👉优快云大礼包🎁:全网最全《LLM大模型入门+进阶学习资源包》免费分享(安全链接,放心点击)👈

​

【Ai教程】Ollma安装 | 0代码本地运行Qwen大模型,保姆级教程来了! 我们平时使用的ChatGPT、kimi、豆包等Ai对话工具,其服务器都是部署在各家公司的机房里,如果我们有一些隐私数据发到对话中,很难保证信息是否安全等问题,如何在保证数据安全的情况下,又可以使用大预言模型,Ollma(哦拉玛)可以告诉你答案! 阅读详情

相关推荐

开源模型应用落地-工具使用篇-Ollama(六)

Ollama集成QWen1.5系列模型,全网唯一,绝非搬运。

以微薄之力,予他人些许温暖. 2万+

AnythingLLM:基于RAG方案构专属私有知识库(开源|高效|可定制)

继OpenAI和Google的产品发布会之后,大模型的能力进化速度之快令人惊叹,然而,对于很多个人和企业而言,为了数据安全不得不考虑私有化部署方案,从GPT-4发布以来,国内外的大模型就拉开了很明显的差距,能够实现的此路径无非就只剩下国内的开源大模型可以选择了。而现阶段切入大模型应用落地最合适的方案依然是结合大模型基于RAG检索增强来实现知识库的检索和生存。从而构建个人或者企业私有化的本地知识库。

FrenzyTechAI的博客 2万+

操作教程丨MaxKB+Ollama:快速构建基于大语言模型的本地知识库问答系统

30分钟上线基于大语言模型的知识库问答系统。

FIT2CLOUD飞致云的博客 1万+

AnythingLLM+Ollama,能否打造你的专属个性化AI助手?

AnythingLLM是一个AI聊天系统,它允许用户构建自己的私人ChatGPT。与依赖云服务的AI工具不同,AnythingLLM支持本地开源和商用闭源的大语言模型(LLM),用户可以根据自己的需求和预算选择合适的模型。

xx_nm98的博客 6881

使用 MaxKB 和 Ollama:手把手教你搭建本地大语言模型驱动的知识库问答系统

本教程详细介绍如何结合 MaxKB 和 Ollama 快速搭建本地知识库问答系统,集成大语言模型,实现企业级智能问答功能,支持安全、高效的知识管理应用。

小白一枚~ 1万+

构建本地大语言模型知识库问答系统

Ollama 是一个基于 Go 语言开发的简单易用的本地大语言模型运行框架。官方提供了类似 GitHub,DockerHub 一般的,可类比理解为 ModelHub,用于存放大语言模型的仓库(有 llama 2,mistral,qwen 等模型,同时你也可以自定义模型上传到仓库里来给别人使用)。除了基于 OpenAI、百度千帆大模型等在线大模型快速搭建知识库问答系统外,MaxKB 还支持与以 Ollama 为代表的本地私有大模型相结合,快速部署本地的知识库问答系统。,快速安装 MaxKB 应用。

sumatch的博客 3006

MaxKB 结合 DeepSeek 实现基于 LLM 大语言模型的知识库问答系统

性能卓越DeepSeek-V2模型参数量达到了惊人的236B,每个token激活21B参数,支持长达128K token的上下文长度,性能直逼GPT-4-Turbo。在中文综合能力评测中,DeepSeek-V2超越了所有开源模型,与GPT-4-Turbo等行业巨头处于同等水平。在英文综合评测中,与最强的开源模型LLaMA3-70B处于同一梯队,超过最强MoE开源模型Mixtral8x22B。在知识、数学、推理、编程等多个领域的专项基准测试中均表现出色。低成本高效能。

ws_zzzz的博客 5935

【实际动手】搭建MaxKB 大模型和 RAG 的知识库问答系统

MaxKB,作为企业级知识库问答系统,以其强大的功能和灵活的部署方式,为企业提供了一种高效、智能的信息处理方案,更在AI技术的持续进步中展现出无限的潜力。它通过深度整合自然语言处理和机器学习技术,使得企业能够轻松应对数据洪流,实现信息的快速检索、精准分析和智能决策。展望未来,随着AI技术的进一步发展,MaxKB有望在知识管理和智能问答领域发挥更大的作用。它将继续推动企业知识资产的有效管理和利用,助力企业在激烈的市场竞争中保持领先。

longxiaotian718的博客 4160

基于开源MaxKB构建大语言模型的本地知识库系统(附教程)

MaxKB是一款基于LLM(Large Language Model)大语言模型的知识库问答系统。MaxKB的产品命名内涵为“Max Knowledge Base”,为用户提供强大的学习能力和问答响应速度,致力于成为企业的最强大脑。

Y525698136的博客 1789

本地知识库开源框架Fastgpt、MaxKB产品体验

FastGPT 是一个基于 LLM 大语言模型的知识库问答系统,提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排,从而实现复杂的问答场景!官网:https://fastgpt.in官网文档:https://doc.fastgpt.in/docs/intro/登录后切到知识库页面创建知识库支持多种格式也支持多种的数据源上传后解析解析完成关联知识库,右边可以进行调试,调试成功后点击发布保存返回到知识库对话。

小生测试的博客 6283

MaxKB结合DeepSeek快速构建客服企业知识库

本文详细介绍了MaxKB部署与ollama部署以及知识库配置等

青云小轩 1740

Ollama+DeepSeek+MaxKB搭建本地知识库

基于上面的步骤,我们就成功部署了MaxKB,下面我们就要开始创建本地知识库,这部分相对就比较简单了,可以参考MaxKB官网文档(https://maxkb.cn/docs/quick_start/)进行查看。希望我的这篇文章,能够帮助小伙伴们搭建本地化的知识库,MaxKB是一个开源工具,也可以用别的替代它的功能,现在市面上的几个开源的都差不多,选择一个自己喜欢的就好。直接点OK按钮就进入安装了。登录后主界面如下,一般流程是创建知识库,再配置本地大模型,最后创建应用,就完成本地知识库的搭建了。

wal1314520的博客 4407

【Proteus】NE555纯硬件实现LED呼吸灯效果,附源文件,效果展示

本设计通过NE555与三极管的巧妙配合,仅用基础元件实现了呼吸灯效果。核心在于利用RC积分电路将PWM信号转换为控制电压,并通过负反馈动态调节占空比。Proteus仿真验证了方案的可行性,读者可进一步优化参数或扩展功能,探索更多硬件设计可能性。

2201_75797484的博客 2981

MaxKB+Ollama:快速构建基于大语言模型的本地知识库问答系统

1Panel 是一个现代化、开源的 Linux 服务器运维管理面板。MaxKB:1Panel开源项目组正式对外介绍了其官方出品的开源子项目,基于LLM(Large Language Model)大语言模型的知识库问答系统,为用户提供强大的学习能力和问答响应速度,致力于成为企业的最强大脑。Ollama:是一个开源框架,它支持用户通过本地部署的方式构建大语言模型服务。目前,Ollama支持的大语言模型包括LIama 2、Mistral、Gemma等。

tigerhhzz的博客 3293

UE5.5使用ControlRig实现MetaHumanNPC看向玩家

本文介绍了在虚幻引擎中实现NPC自然看向玩家的技术方案。通过MetaHuman的ControlRig系统,采用面部动画曲线+全身动画Montage的表演方式,结合ControlRig驱动CTRL_lookat控制器实现视线追踪。

平常心 1302

物联网组网技术优缺点对比:蓝牙、LoRa、wifi、NB-IoT、ZigBee等

1.前言 最近对物联网产品自组网技术选型,找到合适的组网技术,让产品自行组网并完成数据的传输。 2.参数对比

谁念西风独自凉 4万+

基于开源MaxKB构建大语言模型的本地知识库系统,大模型入门到精通,收藏这篇就足够了!(附教程)

MaxKB的产品命名内涵为“Max Knowledge Base”,为用户提供强大的学习能力和问答响应速度,致力于成为企业的最强大脑。

huang9604的博客 1204

基于STM32与ESP8266的MQTT协议实现阿里云物联网平台远程LED控制

本文详细介绍了如何利用STM32单片机与ESP8266 Wi-Fi模块,通过MQTT协议连接阿里云物联网平台,实现远程控制LED灯的完整物联网项目。内容涵盖硬件连接、阿里云平台配置、MQTT协议与AT指令解析、STM32代码实战以及数据解析与调试技巧,为嵌入式开发者提供了一个清晰、实用的物联网入门实践指南。

svm4gardener的博客 791

【RAG检索增强生成】MaxKB:构建企业级知识库问答系统(Ollama+Qwen2)

我们生活在一个信息爆炸的时代,数据的增长速度前所未有,企业每天产生的数据量呈指数级增长。这些数据中蕴含着巨大的价值,但同时也带来了前所未有的挑战:如何从海量的数据中快速提取有价值的信息,转化为企业的竞争优势?传统的数据处理方法已经无法满足现代企业的需求,企业迫切需要一种更高效、更智能的解决方案。在这样的背景下,MaxKB应运而生。MaxKB,即Max Knowledge Base,是一款基于LLM(Large Language Model)大语言模型的知识库问答系统。

寻道AI,探索AI无限可能! 8030

别再手动算临界转速了!用ANSYS Workbench 2023 R2快速搞定转子坎贝尔图(附完整APDL命令流)

本文详细介绍了如何利用ANSYS Workbench 2023 R2快速生成转子坎贝尔图,实现全自动临界转速分析。通过对比传统手动计算与Workbench自动化流程的效率差异,展示了其在旋转机械设计中的革命性优势,包括大幅缩短分析周期、提升精度至98.7%。文章还提供了完整的APDL命令流和实战案例,帮助工程师快速掌握这一高效工具。

weixin_42699679的博客 472

【vLLM-性能洞察】基于Ascend Profiler的端到端推理瓶颈定位与优化实践

本文详细介绍了如何利用Ascend Profiler对vLLM-Ascend大模型推理服务进行端到端的性能瓶颈定位与优化。通过实战案例,阐述了从数据采集、可视化分析到诊断低效算子、内存管理、计算通信重叠及框架调度等常见瓶颈的全过程,为基于昇腾NPU的AI推理性能调优提供了系统性的方法论和实用工具指南。

cc789的博客 521
上一篇: 手把手教学,Coze零代码搭建你的个人RAG知识库
下一篇: 新华社:太缺人!大模型行业人才缺口将达400万(附全套教程)
Llama-Turbo
博客等级 码龄4年 9901粉丝 2022原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值