超级详细的 Ollama 结合 DeepSeek + Docker + Open Web UI 构建本地AI知识库教程

一、简介

Open WebUI 是一个仿照 ChatGPT 界面,为本地大语言模型提供图形化界面的开源项目,可以非常方便的调试、调用本地模型。你能用它连接你在本地的大语言模型(包括 Ollama 和 OpenAI 兼容的 API),也支持远程服务器。Docker 部署简单,功能非常丰富,包括代码高亮、数学公式、网页浏览、预设提示词、本地 RAG 集成、对话标记、下载模型、聊天记录、语音支持等。

在这里插入图片描述

二、安装 Ollama 并且,部署 DeepSeek

Ollama 是一个开源项目,专注于帮助用户本地化运行大型语言模型(LLMs)。它提供了一个简单易用的框架,让开发者和个人用户能够在自己的设备上部署和运行 LLMs,而无需依赖云服务或外部 API。这对于需要数据隐私、离线使用或自定义模型调整的场景非常有用。

1、安装 Ollama 并且,部署 DeepSeek

这里我就不将 Ollama 的详细安装步骤和部署本地DeepSeek详细操作写出来了,如果还没有安装的可以通过下面查看我的另一篇文字

【超级详细的 Ollama 搭建本地 DeepSeek大模型】

2、下载向量嵌入模型

后面 Open-Web UI 搭建本地向量知识库,会使用

ollama pull  bge-m3

在这里插入图片描述

3、检查一下使用的环境

ollama list

在这里插入图片描述

三、安装 Docker for Desktop

Docker Desktop 是 Docker 官方提供的桌面应用程序,旨在让开发者能够在 Windows 和 macOS 系统上轻松地构建、运行和共享容器化应用程序。Docker Desktop 提供了一个方便的工具集,使用户能够快速部署容器化应用程序,同时还包括了一些强大的功能和工具,如 Docker Engine、Docker CLI、Docker Compose 等。

这里我就不将 Docker 的详细安装步骤写出来了,如果还没有安装的可以通过下面查看我的另一篇文字

查看详细Docker Desktop安装步骤:
【Docker Desktop 安装使用教程】

查看详细安装 Docker Desktop 相关问题:
【安装 家庭版 Windows 出现 的 Docker 问题】
【安装 Windows Docker Desktop - WSL问题】
【打开 Windows Docker Desktop 出现 Docker Engine Stopped 问题】

四、使用 Docker 部署 open-webui

前提:安装好WSL2 ,ollama安装在WSL2里面。
官网地址:https://openwebui.com
官网文档地址:https://docs.openwebui.com/
GitHub:https://github.com/open-webui/open-webui

1、使用 pip 安装

如果你不想使用Docker的话可以使用pip 直接安装 open-webui ,这部分这个给大家一个补充,这里不会深入讲解
环境:需要 Python 3.11

1.1、安装Open WebUI:打开你的终端并运行以下命令:

pip install open-webui

这部分下载会很多就不一 一 截取了

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

IT小郭.

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值