AI入门5:基于Ollama+DeepSeek,用AnythingLLM搭建本地知识库

书接上篇:使用Page Assist搭建了deepseek的访问页面,并上传及分析本地知识:

AI入门:AI模型管家婆ollama的安装和使用-优快云博客

AI入门2:本地AI部署,用ollama部署deepseek(私有化部署)-优快云博客

AI入门3:给本地deepseek设置网页访问方式(UI插件Page Assist 安装)_deepseek本地部署网页访问-优快云博客

  AI入门4:基于Ollama+DeepSeek,用Page Assist搭建本地知识库-优快云博客 

本节,介绍比Page Assis功能强大的AnythingLLM,两个软件,都是给deepseek提供使用界面,一个简单版,一个豪华版,Page Assis是网页插件,操作简单,AnythingLLM提供了桌面客户端,方便用户使用;能够从多种不同来源获取数据,包括但不限于文档、网页、数据库等,适用于对本地知识库要求高的朋友。

部署框架

参考一下:

准备工作

ollama和deepseek安装设置好,具体操作参考,上面AI入门1和2。

安装AnythingLLM

在AnythingLLM官网下载:  https://anythingllm.com/

选择适合自己的版本,下载完安装,直接安装,下一步,下一步。。。

首次启动AnythingLLM

打开 AnythingLLM 时,进入欢迎页面,点击 “Get started”:

然后,下一步:

 然后:

然后,中间会需要填邮箱什么的,就进入工作区,自己命名一个:

设置AnythingLLM

进入到工作区后,点击“设置”图标:

在设置页面,外观中设置显示语言:

在LL首选项中,选择LLM供应商为ollama,配置deepseek模型,和地址,然后点击返回按钮:

返回到聊天界面后,配置工作区的聊天设置,可以给工作区设置不同的数据模型,如下图:

然后就开始聊天:

设置本地知识库

上传本地数据,支持三种方式文档上传、网络地址址、数据链接:

上传文档,可以创建文件夹,将上传到文档,移到文件夹里,从而管理上传数据:

选择在本工作区,要分析的数据,移到工作区:

在页面下方,可以看到一过来的文件,点击“save and Embed”

工作区会解析数据,解析完就能用了:

模型越大,解析越慢,解析完成界面下方会有提示:

回到聊天界面,问一下“正经教主是什么人”,这是刚刚上传的资料里的内容,是杜撰的,所以网上不会有相关内容:

可以看到,它查询了上传的文件。

切换聊天模式

但我想要直接的答案,不要分析这么多,调整一下聊天模式:

  • 聊天 将提供 LLM 的一般知识 和 找到的文档上下文的答案。
  • 查询 将 仅 提供找到的文档上下文的答案。

 在聊天设置中切换聊天模式:

一定要点击“update wokepace”,不然设置不保存:

 更新完工作区,会提示:

 然后,是相同的内容,它只会从提供的知识库找答案:

### 使用 DeepSeekOllamaAnythingLLM 构建本地知识库 #### 准备工作 为了成功构建包含 DeepSeekOllamaAnythingLLM本地知识库,需先确认环境配置满足最低硬件需求,并完成必要的软件安装。 - **操作系统支持**:Linux, macOS 或 Windows (建议使用 WSL2)[^1]。 - **依赖项准备**:Python 3.x 版本及其开发工具链;Docker 及 Docker Compose 安装完毕并能正常运行[^2]。 #### 配置与部署 ##### 获取所需资源 通过命令行拉取最新版本的 Ollama 模型文件至本地存储: ```bash ollama pull bge-m3 ``` 此操作会下载指定的大规模预训练语言模型及相关组件,确保后续处理流程顺利进行。 ##### 初始化项目结构 创建一个新的目录用于存放整个项目的源码以及相关配置文件。在此基础上初始化 Git 仓库以便于版本控制管理。 ```bash mkdir my_local_knowledge_base && cd $_ git init . ``` ##### 设置 DeepSeek 环境变量 编辑 `.env` 文件加入如下内容以适应特定场景下的参数调整(如 API 密钥、端口映射等)。这一步骤对于保障系统的稳定性和安全性至关重要。 ```plaintext DEEPSEEK_API_KEY=your_api_key_here PORT=8080 DEBUG=True ``` ##### 整合 AnythingLLM 平台 利用 AnythingLLM 提供的功能接口快速对接各类外部数据源,包括但不限于静态 HTML 页面、PDF 文档集或是关系型数据库表单记录。具体实现方式可参照官方文档说明中的 Python SDK 应用实例。 ```python from anythingllm import DocumentLoader, KnowledgeBaseBuilder loader = DocumentLoader(source="path/to/your/documents") builder = KnowledgeBaseBuilder(loader) knowledge_base = builder.build() ``` #### 启动服务 一切就绪之后,在终端执行启动脚本来激活全部微服务单元,使之协同运作形成完整的解决方案栈。 ```bash docker-compose up -d --build ``` 此时访问 `http://localhost:8080` 即可见证由 DeepSeek 加持的人工智能驱动的知识检索界面雏形初现。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

正经教主

有钱捧个钱场,没钱捧个人场👌

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值