一、简介
Open WebUI 是一个仿照 ChatGPT 界面,为本地大语言模型提供图形化界面的开源项目,可以非常方便的调试、调用本地模型。你能用它连接你在本地的大语言模型(包括 Ollama 和 OpenAI 兼容的 API),也支持远程服务器。Docker 部署简单,功能非常丰富,包括代码高亮、数学公式、网页浏览、预设提示词、本地 RAG 集成、对话标记、下载模型、聊天记录、语音支持等。
二、安装 Ollama 并且,部署 DeepSeek
Ollama 是一个开源项目,专注于帮助用户本地化运行大型语言模型(LLMs)。它提供了一个简单易用的框架,让开发者和个人用户能够在自己的设备上部署和运行 LLMs,而无需依赖云服务或外部 API。这对于需要数据隐私、离线使用或自定义模型调整的场景非常有用。
1、安装 Ollama 并且,部署 DeepSeek
这里我就不将 Ollama 的详细安装步骤和部署本地DeepSeek详细操作写出来了,如果还没有安装的可以通过下面查看我的另一篇文字
【超级详细的 Ollama 搭建本地 DeepSeek大模型】
2、下载向量嵌入模型
后面 Open-Web UI 搭建本地向量知识库,会使用
ollama pull bge-m3
3、检查一下使用的环境
ollama list
三、安装 Docker for Desktop
Docker Desktop 是 Docker 官方提供的桌面应用程序,旨在让开发者能够在 Windows 和 macOS 系统上轻松地构建、运行和共享容器化应用程序。Docker Desktop 提供了一个方便的工具集,使用户能够快速部署容器化应用程序,同时还包括了一些强大的功能和工具,如 Docker Engine、Docker CLI、Docker Compose 等。
这里我就不将 Docker 的详细安装步骤写出来了,如果还没有安装的可以通过下面查看我的另一篇文字
查看详细Docker Desktop安装步骤:
【Docker Desktop 安装使用教程】
查看详细安装 Docker Desktop 相关问题:
【安装 家庭版 Windows 出现 的 Docker 问题】
【安装 Windows Docker Desktop - WSL问题】
【打开 Windows Docker Desktop 出现 Docker Engine Stopped 问题】
四、使用 Docker 部署 open-webui
前提:安装好WSL2 ,ollama安装在WSL2里面。
官网地址:https://openwebui.com
官网文档地址:https://docs.openwebui.com/
GitHub:https://github.com/open-webui/open-webui
1、使用 pip 安装
如果你不想使用Docker的话可以使用pip 直接安装 open-webui ,这部分这个给大家一个补充,这里不会深入讲解
环境:需要 Python 3.11
1.1、安装Open WebUI:打开你的终端并运行以下命令:
pip install open-webui
这部分下载会很多就不一 一 截取了