dify接入ollama模型报错:max retries exceeded with url

最新推荐文章于 2025-04-30 15:52:35 发布

Ven%

最新推荐文章于 2025-04-30 15:52:35 发布

阅读量8.1k

点赞数 10

分类专栏：深度学习基础动手深度学习速通系列 ollama动手文章标签： ollama dify 运维 python 人工智能自然语言处理

本文链接：https://blog.youkuaiyun.com/weixin_51455837/article/details/144189459

版权

深度学习速通系列同时被 3 个专栏收录

63 篇文章

订阅专栏

深度学习基础动手

36 篇文章

订阅专栏

ollama动手

5 篇文章

订阅专栏

如果你使用Docker部署Dify和Ollama，你可能会遇到以下错误：

httpconnectionpool(host=127.0.0.1, port=11434): max retries exceeded with url:/cpi/chat (Caused by NewConnectionError('<urllib3.connection.HTTPConnection object at 0x7f8562812c20>: fail to establish a new connection:[Errno 111] Connection refused'))

httpconnectionpool(host=localhost, port=11434): max retries exceeded with url:/cpi/chat (Caused by NewConnectionError('<urllib3.connection.HTTPConnection object at 0x7f8562812c20>: fail to establish a new connection:[Errno 111] Connection refused'))

这个错误是因为 Docker 容器无法访问 Ollama 服务。localhost 通常指的是容器本身，而不是主机或其他容器。要解决此问题，你需要将 Ollama 服务暴露给网络。

解决方法

在Linux上设置环境变量

在[Service]下加上Environment="OLLAMA_HOST=0.0.0.0"即可

vim /etc/systemd/system/ollama.service
在以下位置创建服务文件/etc/systemd/system/ollama.service：

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin"
Environment="OLLAMA_HOST=0.0.0.0"

[Install]
WantedBy=default.target

2.:wq 保存并退出。
3. 3.重载并重启 Ollama：

systemctl daemon-reload
systemctl restart ollama