本地部署大模型-web界面（ollama + open-webui）

一、安装ollama

二、安装部署open-webui

1、项目运行环境

（1）配置python环境—官方下载链接

可通过命令行直接更改python镜像源为阿里云镜像源：

>pip config set global.index-url http://mirrors.aliyun.com/pypi/simple/

也可手动修改配置文件（默认路径C:\Users\Administrator\AppData\Roaming\pip\pip.ini）

（2）配置nodejs环境—官方下载链接

2、安装docker

（1）安装并更新wsl，使用管理员身份运行PowerShell，执行命令：

>wsl --update

重启电脑，执行命令：

>wsl --install

（2）下载安装docker
官方下载链接

安装之后运行出现以下弹窗，说明WSL环境安装成功。

3、配置open-webui

github页面

方法一：使用python快速部署（注意需使用3.11版本避免兼容性问题）：

安装open-webui

>pip install open-webui

启动open-webui服务:

open-webui serve

方法二：使用docker快速部署

官方参考文档
若本机已安装ollama，可使用以下命令快速部署：

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

运行支持Nvidia GPU的Open WebUI，执行命令：

docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda

部署完成后，访问http://localhost:3000即可进入web界面。
首次进入会提示注册管理员用户，自行注册即可。