解决 Ollama 和 Dify 集成时的“Connection Refused”错误

目录

一、问题原因

二、解决方法

1. 修改 Ollama 监听地址

2. 使用 host.docker.internal

3. 确保 Docker 网络一致

三、验证连接

四、总结

---

 ollama架构图

---

在使用 Docker 部署 Ollama 和 Dify 时，可能会遇到以下错误：

An error occurred during credentials validation: HTTPConnectionPool(host='127.0.0.1', port=11434): Max retries exceeded with url: /api/chat (Caused by NewConnectionError('<urllib3.connection.HTTPConnection object at 0x7f8562812c20>: Failed to establish a new connection: [Errno 111] Connection refused'))

这个错误表明 Dify 无法连接到 Ollama 服务。以下是解决方法：

---

一、问题原因

1. 网络隔离问题
   Docker 容器默认有自己的网络命名空间，127.0.0.1 或 localhost 指的是容器内部，而不是宿主机。

2. Ollama 未正确暴露端口
   Ollama 默认监听 127.0.0.1，这使得其他容器无法访问。

3. Docker 网络配置问题
   如果 Ollama 和 Dify 未在同一 Docker 网络中，会导致连接失败。

---

二、解决方法

1. 修改 Ollama 监听地址

确保 Ollama 监听在所有网络接口上（0.0.0.0），而不仅仅是 127.0.0.1。

• 启动 Ollama 时指定监听地址：

  bash复制

  ollama serve --host 0.0.0.0

• 通过环境变量设置： 在启动 Ollama 容器时，添加环境变量 OLLAMA_HOST=0.0.0.0：

  yaml复制

  services:
    ollama:
      image: ollama/ollama:latest
      ports:
        - "11434:11434"
      environment:
        - OLLAMA_HOST=0.0.0.0

2. 使用 host.docker.internal

如果 Dify 和 Ollama 都运行在 Docker 容器中，使用 host.docker.internal 来访问宿主机上的服务。在 Dify 的配置中，将 Ollama 的地址设置为：

http://host.docker.internal:11434

3. 确保 Docker 网络一致

如果 Ollama 和 Dify 需要通信，确保它们在同一 Docker 网络中。可以通过以下方式配置：

yaml复制

version: '3.8'

services:
  ollama:
    image: ollama/ollama:latest
    ports:
      - "11434:11434"
    environment:
      - OLLAMA_HOST=0.0.0.0
    networks:
      - my_network

  dify:
    image: dify/image:latest
    ports:
      - "8000:8000"
    environment:
      - OLLAMA_URL=http://ollama:11434
    networks:
      - my_network

networks:
  my_network:
    driver: bridge

---

三、验证连接

1. 检查 Ollama 是否运行：

   bash复制

   curl http://localhost:11434

   如果返回 Ollama 的欢迎信息，说明服务正常。

2. 从 Dify 容器中测试连接： 进入 Dify 容器并运行：

   bash复制

   curl http://ollama:11434

   如果返回成功响应，说明网络配置正确。

---

四、总结

通过以上步骤，可以解决 Dify 和 Ollama 集成时的“Connection Refused”错误。核心问题在于确保 Ollama 监听在 0.0.0.0，并且 Dify 和 Ollama 的网络配置正确。希望这些方法能帮助你顺利解决问题。

如果仍有问题，建议参考 Ollama 和 Dify 的官方文档或社区支持。