Ollama+MaxKB 搭建本地大模型知识库

大模型在训练时学习到的知识大部分都是些通用知识，当我们向它提问一下专业领域的知识时，往往不能得到很多的效果。

对于这种情况，我们可以将涉及到的一些专业或预备知识构建成知识库，在模型回答问题时让它去知识库中找到最相关的段落，然后带着这些知识与问题一起生成更精准的回答。

在这方面目前已经有了比较成熟的开源项目MaxKB，说不多话，直接分享如何搭建本地大模型知识库

首先登录ollama官网(https://ollama.com/download/)，点击对应操作系统下载后一键安装

ollama本地部署开源模型

docker拉取MaxKB镜像并运行

官方指导文档（https://maxkb.cn/docs/installation/online_installtion/）

docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data -v ~/.python-packages:/opt/maxkb/app/sandbox/python-packages cr2.fit2cloud.com/1panel/maxkb

通过8080端口访问(默认用户名admin,密码MaxKB@123…)进去后可以修改密码

选择添加ollama供应商

如果基础模型不在选项中，可以直接填写ollama run的模型名称然后回车，api域名填ollama所在机器的ip:11434端口，本地大模型的apikey随意填非空即可

（如果添加后显示api域名无效，首先确保不要使用127.0.0.1和localhost，还是不行修改环境变量OLLAMA_HOST为0.0.0.0再重启ollama）

创建知识库

点击上传文档，然后创建并导入

选择智能分段并导入，完成后如下图

然后创建应用

选择之前创建的模型，关联创建的知识库，最后保存并发布

选中概览，点击演示

与直接在模型中提问比较效果

由于我构建知识库时上传pdf的是一篇讨论中国在人工智能产业发展中挑战的论文，所以其回答明显提取了论文中的信息与观点

​

如何学习大模型

现在社会上大模型越来越普及了，已经有很多人都想往这里面扎，但是却找不到适合的方法去学习。

作为一名资深码农，初入大模型时也吃了很多亏，踩了无数坑。现在我想把我的经验和知识分享给你们，帮助你们学习AI大模型，能够解决你们学习中的困难。

下面这些都是我当初辛苦整理和花钱购买的资料，现在我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习，等录播视频免费分享出来，需要的小伙伴可以扫取。

一、AGI大模型系统学习路线

很多人学习大模型的时候没有方向，东学一点西学一点，像只无头苍蝇乱撞，我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。

二、AI大模型视频教程

三、AI大模型各大学习书籍

四、AI大模型各大场景实战案例

五、结束语

学习AI大模型是当前科技发展的趋势，它不仅能够为我们提供更多的机会和挑战，还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型，我们可以深入了解深度学习、神经网络等核心概念，并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时，掌握AI大模型还能够为我们的职业发展增添竞争力，成为未来技术领域的领导者。

再者，学习AI大模型也能为我们自己创造更多的价值，提供更多的岗位以及副业创收，让自己的生活更上一层楼。

因此，学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。