如果需要建站,那得选安装Openresty。点击应用商店,安装 Openresty
接下来安装Ollama,可以部署本地模型提供给WebUi平台使用
最后是安装 WebUi,安装时需要填写Ollama的地址: 容器地址:30000
这些安装都很方便,直接在应用商店里安装就行,容器会自己搭建起来。
这些安装完成,服务就可以使用了,输入IP地址:3000就可以打开站点了。不过我们先配置下域名。点击左边菜单中的网站,然后创建,选择反向代理,开始配置
配置完成后,添加SSL,
接下来就可以通过域名访问站点了
第一次访问站点,会让你配置管理员账户,接着通过管理员账户登录后,就可以看到主页面了
我们可以通过管理员面板,添加模型,点击右上角菜单,选择管理员面板-设置-模型,在本地安装模型,这些模型都是通过之前安装的ollama部署的
模型安装完成后,就可以使用了
另外,还有许多扩展的模型和函数提供,可以直接安装,非常方便,也非常有趣。
比如我有Gemini的API,想在我的站点使用,可以安装插件
如果你希望快速完成集成,最便捷的方式是使用 Open WebUI 的第三方插件。例如,https://openwebui.com/f/matthewh/google_genai 插件专为 Gemini API 提供支持,安装和配置非常简单。
配置步骤包括:
第一,安装插件:在 Open WebUI 的插件市场中搜索并安装 google_genai 插件。打开 Open WebUI 的设置页面,找到函数,然后导入这个插件的代码。
第二,配置 API 密钥:输入你的 Gemini API 密钥。
第三,启用插件: 为函数点击启用,将默认模型设置为 gemini。
完成配置后,你可以开始使用 Gemini 模型进行生成任务。
使用插件是最简单的方式,特别适合希望快速体验 Gemini API 功能的用户。插件本身通常是免费的,你只需支付 Gemini API 的调用费用。