手把手教会-本地知识库问答系统

本地部署 Qwen-Agent 阅读详情

图片

在本文中,我们将通过MaxKB和Ollama,介绍如何快速构建一个基于大语言模型的本地知识库问答系统。MaxKB是一款基于LLM的知识库问答系统,而Ollama是一个支持本地部署的开源框架。

环境准备

  • • 确保你的系统上安装了Docker,用于快速部署MaxKB和Ollama。

安装部署MaxKB

图片

通过1Panel应用商店安装

  1. \1. 访问1Panel应用商店。
  2. \2. 搜索MaxKB并进行安装。

命令行安装

使用以下Docker命令安装MaxKB:

docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb
  • • 默认用户名:admin
  • • 默认密码:MaxKB@123…

安装部署Ollama

图片

通过1Panel应用商店安装

  1. \1. 访问1Panel应用商店。
  2. \2. 搜索Ollama并进行安装。

图片

图片

在MaxKB中接入Ollama的大语言模型

  1. \1. 登录至MaxKB系统。
  2. \2. 进入“系统设置” > “模型设置”,添加Ollama模型并填写模型信息。
  3. \3. 点击“添加”后,系统将自动下载并部署Ollama模型。

图片

制作企业知识库小助手

创建DataEase在线知识库

  1. \1. 访问DataEase在线文档:DataEase Docs。
  2. \2. 在MaxKB应用界面中,创建知识库并导入DataEase文档。

创建DataEase小助手应用

  1. \1. 在MaxKB的“应用”菜单中,创建应用并填写相关信息。
  2. \2. 创建完成后,点击演示图标进行调试和预览。

图片

嵌入到第三方业务系统中

  1. \1. 在MaxKB“应用”菜单中,点击DataEase小助手应用面板。
  2. \2. 进入“概览”页面,打开“嵌入第三方”选项。
  3. \3. 复制“浮窗模式”下方的脚本,加入到DataEase在线文档的文件中。

视频演示

观看文章最后的视频演示,了解如何在30分钟内上线基于大语言模型的知识库问答系统。

Final

通过上述步骤,你可以快速构建一个强大的本地知识库问答系统,提升企业服务效率和用户体验。

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
  • …

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】
Qwen-Agent智能体框架:阿里又一开源王炸!附详细教程 阅读详情

相关推荐

40-dify案例分享-dify独家揭秘:mcp_sse+Zapier_MCP如何打造轻量级MCPserver达成万物互联

本文介绍 MCP Server,它基于 MCP 协议,能实现 LLM 与外部资源高效安全连接。重点分享在 Dify 实现 mcp-server 的方案,包括升级 Dify、安装 MCP SSE 插件、配置 Zapier MCP 等步骤,还进行了验证测试,实现新闻搜索和邮件发送联动。

个人技术 6866

RagFlow本地部署使用

开源RAGFlow引擎:打造无幻觉、高精度的文档理解与生成体验RAGflow,这个新兴的开源RAG(Retrieval-Augmented Generation)引擎,正以其独特的深度文档理解能力,为大型语言模型的应用带来了革命性的变革。在处理PDF文件时,我们经常面临提取干净数据的挑战,而RAGFlow的出现,恰恰解决了这一问题,它能够提供准确无误且无幻觉的生成结果。

qq_43548590的博客 4万+

使用 MaxKB 和 Ollama:手把手教你搭建本地大语言模型驱动的知识库问答系统

本教程详细介绍如何结合 MaxKB 和 Ollama 快速搭建本地知识库问答系统,集成大语言模型,实现企业级智能问答功能,支持安全、高效的知识管理应用。

小白一枚~ 1万+

PyCharm接入DeepSeek实现AI编程

DeepSeek 是一家专注于人工智能技术研发的公司,致力于开发高性能、低成本的 AI 模型。DeepSeek-V3 是 DeepSeek 公司推出的最新一代 AI 模型。其前身是 DeepSeek-V2.5,经过持续的优化和升级,V3 版本在性能、速度和成本方面都取得了显著提升。DeepSeek-V3 的发布表明,国产 AI 模型在技术层面已经具备与国际顶尖模型(例如 GPT-4o)竞争的实力。接下来,我们把DeepSeek接入到PyCharm中,并利用其能力辅助我们进行代码开发。

qq_63708623的博客 4万+

本地部署Dify+Deepseek,打造个性化知识库问答系统

摘要:通过以上步骤,我们成功在Windows系统下借助Dockers部署了Dify+Deepseek,打造了个性化的本地知识库问答系统。

zhz5214的博客 1476

Qwen2.5 + LangChain 构建本地文档知识库问答系统实战

本地知识库问答”(RAG - Retrieval Augmented Generation)是一种结合了语义检索 + 大模型生成能力用户提问 → 检索相关文档内容 → 把文档片段 + 问题一起送入LLM → LLM生成答案PDF / Word 文档 → 提取文本 → 切片成段落 → 转成语义向量 → 建立本地知识库(faiss + chunks)🎯 本章目标:从项目工程化角度梳理完整 RAG 系统的部署结构、优化思路与团队协作能力提升方案,让你的知识问答系统不仅“能用”,而且“能运维、能多人使用”。

努力分享一些人工智能、计算机视觉、影像等相关的知识干货! 997

使用 LangChain + OpenAI + FAISS 快速搭建本地知识库问答系统

组件作用替代方案LangChain编排框架,连接LLM、知识库、业务逻辑LlamaIndexOpenAI API提供大语言模型能力(如GPT-4)Claude / 本地部署LLMFAISS高效的本地向量检索库文本转向量(Embedding)

qq_31869301的博客 1128

多目标跟踪(MOT)中的卡尔曼滤波(Kalman filter)和匈牙利(Hungarian)算法详解

多目标跟踪(MOT)中的卡尔曼滤波(Kalman filter)和匈牙利(Hungarian)算法详解 1. 概览 在开始具体讨论卡尔曼滤波和匈牙利算法之前,首先我们来看一下基于检测的目标跟踪算法的大致流程。 2. 卡尔曼滤波(Kalman filter) 目标跟踪中使用的就是最基础的 Kalman filter 算法。这里也仅仅讨论最基础的 Kalman filter 算法。 卡尔曼滤波算法的过程很简单,如下图所示。最核心的两个步骤就是预测和更新(下图的 correct)。 在目标跟踪任务中,目标的

生命在于折腾! 2万+

手把手教你:基于 AnythingLLM API 训练并调用本地知识库

基于 AnythingLLM API 训练并调用本地知识库是提升知识利用效率的有效途径。借助 API 可便捷地将本地知识数据注入模型进行针对性训练,使模型熟悉特定领域知识。训练后能快速准确调用知识库信息解答问题,增强交互专业性和精准度,满足多样化知识需求,推动知识深度应用。

weixin_37991383的博客 1万+

深入解析STM32F103R6的USB OTG_FS双重角色设备(DRD)设计与应用

本文深入解析了STM32F103R6的USB OTG_FS双重角色设备(DRD)设计与应用。详细阐述了其作为USB主机和设备双重角色的硬件设计要点,包括VBUS电源管理与ID引脚配置,并提供了设备模式(如虚拟串口CDC)与主机模式(如读取U盘文件)的软件实现实战指南,帮助开发者充分发挥该芯片的OTG潜力。

weixin_29195615的博客 265

从Level 1到Level 22:手把手带你用Burp Suite通关burp-labs靶场全关卡(附难点解析)

本文详细解析了如何使用Burp Suite通关burp-labs靶场的22个关卡,从基础爆破到复杂编码绕过,涵盖Intruder配置、响应过滤、POST请求处理、MD5爆破等关键技术。特别针对Level 16的三重编码和Level 20的中文响应处理等难点提供实战技巧,帮助渗透测试工程师提升Web安全实战能力。

weixin_28831461的博客 436

手把手教你构建一个 本地化的,免费的,企业级的,AI大模型知识库问答系统

我将通过一个系列分享,手把手的教大家打造一个完全本地化的,免费的,企业级知识库问答系统。

zhishi0000的博客 1696

bert-ini:一种基于bert的实体对齐交互模型

本次分享一项来自IJCAI-20的实体对齐工作,该工作提出了一种不同于以往的采用图结构信息进行实体对齐的技术方案,该方案取得了当时的最好效果;不仅如此,模型本身的对齐效率在该项工作中也被考虑,实际工作中非常具备借鉴意义。

qq_33331424的博客 3152

RAG入门实践:手把手Python实现搭建本地知识问答系统

向量数据库是AI时代的“数据配对专家”,用向量化思维解决非结构化数据的存储和检索难题,尤其适合需要。

Arbboter的专栏 7709

SAP交货单增强字段更新实战:手把手教你用BAPI_OUTB_DELIVERY_CHANGE和EXTENSION2参数

本文详细解析了如何使用BAPI_OUTB_DELIVERY_CHANGE和EXTENSION2参数实现SAP交货单增强字段的更新。从增强点SMOD_V50B0001的定位到字段落表的全流程,提供了ABAP代码示例和常见问题排查方法,帮助开发者高效完成交货单自定义字段的集成开发。

weixin_42525637的博客 452

uniapp - 强力解决H5网页浏览器跨域问题,如何解决uniapp请求接口在浏览器跨域问题,UniApp H5 跨域代理配置详细教程完美解决所有uniapp跨域(调用第三方接口或服务器api跨域)

uni-app 跨域,uniApp解决h5跨域问题,解决uni-app请求接口在浏览器跨域问题,uni.request请求跨域问题解决方案,uni-app-跨域解决方法,彻底解决uniapp发布为H5的跨域问题,uniapp H5页面设置跨域请求_uniapp h5跨域配置,uniapp开发 H5 解决跨域问题,uniApp请求解决跨域问题,uniapp request如何实现前端请求跨域,解决uniapp调试过程中的请求跨域和环境配置,Uniapp调用外部api接口跨域请求,uni-app发布H5页面跨域

🏆 前端领域优质创作者 5354

大模型应用开发:从0到1,手把手教你使用Langchain框架实现本地知识库!

嵌入式模型的核心思想是将每个数据点映射到一个低维度的嵌入向量(embedding vector)中,使得相似的数据点在嵌入空间中距离接近。具体来说,嵌入向量是一个实数向量,通常包含几十到几百个元素,每个元素代表一个特征或语义信息,而不是像One-hot编码一样只有一个元素是1,其余都是0。嵌入向量的生成通常使用神经网络进行训练,其中包括输入层、隐藏层和输出层。输入层接受原始的高维数据,如文本或图像等,隐藏层将其转化为嵌入向量,输出层将嵌入向量映射到所需的预测结果,如文本分类或图像识别等。

m0_56255097的博客 1821

【DEIM创新改进】全网独家创新、注意力改进篇 | AAAI 2026 | DEIM 引入轻量级群体注意力(LWGA)模块,可以显著提高其多尺度物体检测能力,特别是在小物体和复杂背景下的表现

本文提出了一种改进的DEIM网络模型,通过引入轻量级LWGA模块显著提升了多尺度物体检测性能。LWGA模块采用局部和全局注意力机制,有效提升了小物体和复杂背景下的识别能力,同时保持低计算成本。该模块通过分割输入特征图并应用多种注意力机制(GPA、RLA、SMA、SGA)进行特征提取和融合,优化了多尺度物体的特征表示。实验表明,改进后的DEIM模型在遥感图像处理等任务中表现出色,在12个数据集上实现了性能与计算效率的最佳平衡,为资源受限设备提供了高效的解决方案。

Ai缝合怪、助力小伙伴高效发论文 273

手把手教你用 DeepSeek + CherryStudio 打造本地知识库

CherryStudio 是一款支持多个模型提供方的客户端软件,最近雨飞也是一直在使用它,但是很多人只是用来进行简单的对话。其实 Cherry Studio 还可以用来搭建简易的本地知识库,今天就教大家如何使用和搭建这个知识库。官方网站:https://cherry-ai.com/安装过程非常简单,直接参考下方教程。1、配置硅基流动的模型服务和 API 密钥这一步可以参考文章:[全网首发,硅基流动 X 华为云,提供 DeepSeek R1 API 推理服务]2、配置模型。

2401_84204207的博客 1万+

吊打BEVFormer!GaussianBeV实战:用3D高斯开启BEV分割新范式

GaussianBeV是一种基于3D高斯建模的BEV分割新方法,在自动驾驶感知任务中实现了SOTA性能。其核心创新在于将场景元素表示为3D高斯分布,通过均值、协方差和权重精确描述物体位置、形状和置信度,相比传统BEV方法具有更强的空间建模能力。文章详细介绍了GaussianBeV的原理、环境配置、训练推理流程及其在自动驾驶和城市3D重建中的应用,并讨论了优化方向和未来发展趋势。该方法在nuScenes等数据集上表现出色,为BEV分割任务提供了新的解决方案。

m0_71589036的博客 106

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

【RAG 实践】 手把手教你用Ollama+MaxKB 部署本地知识库,学不会那你就再看一遍!

本文我们介绍另外一种部署本地知识库的方案: `Ollama + MaxKB` 相对来说,容易安装且功能较完善,30 分钟内即可上线基于本地大模型的知识库问答系统,并嵌入到第三方业务系统中。

2401_85327249的博客 2443

SIMATIC S7-1200, S7-1500 PID 控制[手册]

SIMATIC S7-1200, S7-1500 PID 控制[手册]

手把手教你用 RAG 打造专属知识库问答系统

本文深入浅出讲解 RAG 的核心原理——通过实时检索外部知识库,为生成模型注入最新、最准的上下文信息,显著提升回答的准确性、专业性与可解释性。

2301_81888214的博客 1186

IDEA的使用指南

IDEA基于java的使用手册,可以最快速的上手,在使用中不断的丰富自己的使用技巧.

精雕软件(JDpaint) 5.5 绿色版

精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版

人人都可以创建个人知识库 | 从0到1,手把手教你基于 FastGPT 搭建本地私有化知识库!

当今环境,所有人都面临一个问题:信息过载。不知道你是否曾经遇到过以下困扰? 在海量数据中搜索时,是否难以迅速找到所需的信息? 在面对日益增长的专业知识,是否感到知识管理的需求愈发迫切? 对于敏感数据的存储,是否时常害怕一不小心就会泄露关键信息? 在日常工作中,是否因为工作效率不高而觉得时间不够用?

datian1234的博客 1123

手把手带你搭建一个本地RAG知识库问答系统(详细教学)

本地大模型使用的是 Gemma-3-1b,向量模型使用 Qwen3-Embedding-0.6B。 全程一共分三大步,我们开始。

2401_82469710的博客 1186
上一篇: 如何使用未标注数据对LLMs进行微调
下一篇: RAG 实践- Ollama+RagFlow 部署本地知识库
爱喝白开水a
博客等级 码龄3年 6793粉丝 763原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值