前文已完成安装与部署Ollama,实现了qwen2大模型的命令行方式与API方式访问,但是对于日常使用来说还是不方便,特别是使用过OpenAI的界面后,会觉得操作界面不像ChatGPT那样美观,如果能使用web页面进行交互,使用体验更好,也能保留之前的聊天记录,便于后期翻阅查询。
Open-webui就是一款适配Ollama的web端工具,它可以采用本地安装与docker安装方式进行部署,在Windows系统中推荐采用docker部署。
Open-webui 安装
首先Windows中部署Docker需要底层WSL2支持,配置过程中首先安装Windows Hyper-v(Windows server平台的虚拟化技术)。
Hyper-v安装
前提条件:
- Windows 专业版,企业版,教育版
- Windows 1903或更高版本
- 内存容量至少4GB及以上
- CPU支持VT-X/VT-D
Windows 控制面板——程序与功能——启用或关闭Windows功能——Hyper-v