deepseek篇002.2--Windows搭建Docker+Open-WebUI部署本地模型中可能出现的问题

最新推荐文章于 2025-03-31 19:03:44 发布
最新推荐文章于 2025-03-31 19:03:44 发布
阅读量431 收藏 1
点赞数 13
文章标签： docker 容器 运维 python 人工智能 语言模型 windows
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_58259227/article/details/145857559
版权

文章目录


在这里插入图片描述

问题描述（持续更新）

1：

webui界面识别不到本地大模型

更换网络导致ip出现变化后，识别不到大模型

在上一篇部署中，如果出现了webui界面正常打开，但是找不到本地有大模型，和下图不同
在这里插入图片描述

解决

更改 openui设置，使其ollama端口指向当前ip
点击设置
在这里插入图片描述
管理员设置
Alt
更改ollama的api连接地址，修改为 本机ip：环境变量中，自己定义的ollama的端口号
在这里插入图片描述
刷新界面，等待一会儿

问题1已经解决啦！！！

Docker 问题集锦(15) - ERROR: for * Cannot start service *: driver failed programming external
liuzhen007的专栏
09-16 4605
目录 问题 解决 问题 今天启动 docker 服务的时候，遇到了如下报错信息： ERROR: for mongodb Cannot start service mongodb: driver failed programming external connectivity on endpoint MongoDB1 (bce7e9557ab585faee6ebe13eed5f5419dfa9c312579a03c18cc7f4a406e4ff7): (iptables failed: i..
开源运维监控系统-Nightingale（夜莺）应用实践
企业实战系列集 ●●● https://ximenjianxue.blog.youkuaiyun.com
11-27 4023
某业务系统因OS改造，原先的Zabbix监控系统推倒后未重建，本来计划用外部企业内其他监控系统接入，后又通知需要自建才能对接，考虑之前zabbix的一些不便，本次计划采用一个类Prometheus的监控系统，镜调研后发现Nightingale兼容Prometheus，又有一些其他功能增强，又在一些大的企业经过较大规模部署实践，故本次采用Nightingale作为监控系统来进行重建。
解决Docker中使用 Open WebUI识别不到本地ollama中的模型
热门推荐
qq_63604803的博客
09-23 2万+
用-e命令覆盖原本的OLLAMA_BASE_URL地址和端口，运行命令docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -e OLLAMA_BASE_URL=局域网的ip:你修改的ollama端口号 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main。
本机安装ollama和模型，在wsl（ubuntu22.04）中安装了docker，docker安装了open-webui，但运行open-webui后无法看到ollama的模型
weixin_56670001的博客
09-17 1338
wsl：安装的ubuntu22.04版本，在ubuntu中安装了docker。在powershell或者cmd中输入ipconfig，查找wsl的ip地址。此时模型列表中就可以看到ollama中已安装的模型了。ollama：使用官方的安装包，安装在本机（C盘）
本地部署deepseek，docker中的Open WebUI无法访问宿主机中的ollama解决方案
最新发布
RickG的博客
03-31 347
本人首先本地部署了ollama，下载了deepseek14b，可以通过命令行正常使用。为了使用Open WebUI的前端，于是安装了docker版的Open WebUI。但是登录到localhost:3000后，无法看到下载好的deepseek14b模型。经过排查，发现容器无法访问宿主机端口。于是采用了Host 网络模式，让容器共享宿主机网络命名空间，问题得以解决。
已经启用了ollama并下载了模型，但是webui上选不到模型
wayaw151的博客
02-10 5750
检查 Docker 运行命令中是否包含 --add-host=host.docker.internal:host-gateway。通过以上步骤，Open WebUI 应能正确识别 Ollama 模型。若问题仍存在，请提供。在 Open WebUI 中输入模型名称时，需与。输出应包含已下载的模型（如。登录 Open WebUI（（你的命令已包含此参数）。应返回已下载的模型列表。
关于在Linux开发机上部署大模型过程中Openwebui无法识别Ollama本地模型的问题及解决方案
2301_76506962的博客
02-10 1298
这里修改为172.17.0.1（其中11434是Ollama的默认端口）是因为这是从容器访问其宿主机的默认IP地址。比较容易混淆的一点是，在本地机上面通过浏览器访问Openwebui界面时，应该使用开发机相对于本地机的IP地址（而非这里说的Gateway）和Openwebui监听的端口（此处应是3000）。前面的过程都很顺利，开发机中用Ollama可以和大模型正常对话，Openwebui界面也能在本地机的浏览器上正常打开，但在Openwebui的模型列表中无法找到Ollama中已经获取的大模型。
[已解决]本地部署DeepSeek R1在网页端找不到模型
m0_72678953的博客
03-17 260
这个其实说明你的docker并不能获取到localhost上的端口,使用如下指令对ollama进行启动。ollama是一个类似于模型管理工具,可以在上面下载各种开源模型,并对其进行管理。其中ollama运行在本机的11434端口,内部容器通过访问该端口获取模型列表.本机环境:Ubuntu2404,Docker(snap安装)可以通过docker logs查看一个日志,来发现此问题。
Open WebUI识别不到本地ollama中的模型
BumpsTiger的博客
08-19 9699
先安装了ollama，然后从docker安装了Open WebUI。启动Open WebUI后，找不到ollama中已经下好的模型。
【定制你的Open-WebUI】：打造个性化的Open-WebUI镜像
Open-WebUI是现代前端界面设计中的一种创新框架，它通过模块化的方式，允许开发者轻松创建具有丰富交互性的网页应用。它以其轻量级和高度可定制的特点，受到了前端开发者的广泛欢迎。Open-WebUI不仅提供了基础的用户...
kubeflow1.3安装记录-外网环境下
请微笑请喵叫的专栏
08-16 1938
kubeflow安装在能访问外网的情况下十分简单，但是如果不能翻墙就会很困难很多，下面首先在能访问外网的情况下进行，再试着在局域网（公司网络）内进行安装。这里机器使用腾讯云服务器，选择2台香港地区的竞价实例，CentOS7.6，配置为8核16G，根目录磁盘空间300G，网络为1Mbps的按带宽计费模式，2台机器共计每小时￥1.23。安全组选择放通所有端口，登录方式为自定义密码登录 安装docker 首先在两台机器上安装docker yum -y install yum-utils &&a
OpenWebUI，RAG+外部知识库+AI写文的开源应用
m0_74824780的博客
12-10 2438
Open WebUI 是一个可扩展、功能丰富且用户友好的自托管 WebUI，旨在完全离线操作。它支持多种 LLM 运行器，包括 Ollama 和兼容 OpenAI 的 API。自定义构建新模型；自定义知识库、工具、函数；支持OpenAI API兼容格式；集成RAG和基于RAG的网络检索；Markdown和Latex渲染支持；支持语音、绘图等；模型竞技场；自定义用户角色和权限（RBAC）；响应式设计，支持PWA；多语言支持；
Open-Webui和RAGFlow无法加载ollama模型
zxw的博客
05-08 5242
【代码】Open-Webui和RAGFlow无法加载ollama模型。
解决使用docker run open-webui,在可视化界面中找不到模型的问题
weixin_55855653的博客
02-14 1443
因为大家都是先装ollama,在下载模型，然后用docker跑open-webuide，中间需要配置。直接上图，没有模型可以选择，原因是open-webui在容器中运行；
【无标题】解决docker openwebui无法识别本地模型的问题
u013984400的专栏
12-08 3961
PS:Ollama要及时更新，否则run不了模型。
通过客户端Chatbox或OpenwebUI访问识别不到本地ollama中的模型等问题的解决
weixin_43794223的博客
02-08 9535
问题1：先安装了ollama，然后从docker安装了Open WebUI。启动Open WebUI后，找不到ollama中已经下好的模型。如果需要修改Ollama的默认设置（如模型存储路径或监听地址），可以通过配置环境变量来实现。，可以通过Ollama的WebUI或API与模型交互，而无需直接在命令行中运行模型。通过以上方法，即使关闭了命令行窗口，也可以随时重新启动并使用Ollama中的模型。这会将Ollama作为后台服务运行，即使关闭命令行窗口，服务也会继续运行。选中并点击“结束任务”。
ollama+openwebui找不到本地模型
weixin_42434262的博客
11-21 4074
其实原因很简单检查一下ollama是否打开方法如下,如果没打开就肯定看不到本地模型，那就去打开ollama。有没有跟我一样的，犯了低级错误，打开openwebui网站找不到本地模型。
Linux平台利用Ollama和Open WebUI部署大模型
Clang’s Blog
03-23 1万+
在当今的人工智能领域，部署大型深度学习模型是一个挑战，尤其是对于那些不熟悉复杂技术栈的用户而言。然而，随着开源技术的不断发展，出现了一些强大的工具，如 Ollama 和 Open-webui，使得部署大型模型变得更加简单和高效。Ollama 是一个功能强大的开源平台，专门用于部署深度学习模型。与此同时，Open WebUI 是一个开源的 Web 用户界面工具，为用户提供了友好的界面来与 Ollama 平台进行交互。
linux搭建Docker+Ollama+Open-WebUI部署DeepSeek本地模型
02-08
### 部署DeepSeek本地模型的教程 #### 使用Docker、Ollama和Open-WebUI在Linux上的部署流程 为了成功部署DeepSeek本地模型，需先安装并配置好Docker环境。对于Linux系统而言，推荐按照官方文档中的指导完成安装过程[^1]。 一旦Docker准备就绪，下一步就是拉取所需的镜像文件。这里涉及到两个主要组件：一个是用于处理数据流的应用程序`docker.io/sladesoftware/log-application:latest`[^2]；另一个则是特定版本的日志收集工具`docker.io/elastic/filebeat:7.8.0`。不过针对DeepSeek项目本身，则需要找到对应的预构建镜像或是自行创建适合该模型运行的基础镜像。 关于Ollama的支持，在此假设其作为服务端的一部分被集成到了最终使用的容器化应用里。而Open-WebUI作为一个图形界面前端框架，可以方便开发者调试以及用户交互操作。通常情况下，这类web应用程序也会被打包成独立的Docker镜像来简化分发与部署工作。 下面是一个简单的Python脚本例子展示如何通过命令行调用API接口启动相关服务： ```python import subprocess def start_services(): try: # 启动日志收集器FileBeat filebeat_command = "docker run -d docker.io/elastic/filebeat:7.8.0" process_filebeat = subprocess.Popen(filebeat_command.split(), stdout=subprocess.PIPE) # 启动Log Application log_app_command = "docker run -d docker.io/sladesoftware/log-application:latest" process_logapp = subprocess.Popen(log_app_command.split(), stdout=subprocess.PIPE) output, error = process_filebeat.communicate() if error is None: print("Services started successfully.") else: print(f"Error occurred while starting services: {error}") except Exception as e: print(e) if __name__ == "__main__": start_services() ``` 值得注意的是，实际环境中可能还需要考虑网络设置、存储卷挂载等问题以确保各个微服务之间能够正常通信协作。此外，由于具体实现细节会依赖于所选的技术栈及业务需求，因此建议参考更多针对性强的学习资源如《Docker入门到实践》一书获取深入理解。 最后提醒一点，当涉及敏感信息传输时务必遵循安全最佳实践原则保护隐私不受侵犯。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值