windows系统dify接入本地非docker部署的xinference

conda activate xinference
set XINFERENCE_HEALTH_CHECK_INTERVAL=30
set XINFERENCE_HEALTH_CHECK_ATTEMPTS=18
set XINFERENCE_DISABLE_HEALTH_CHECK=1
set XINFERENCE_DISABLE_METRICS=1
set XINFERENCE_HEALTH_CHECK_TIMEOUT=30
xinference-local --host 192.168.18.135 --port 9997

直接部署xinference，不用docker容器的话，windows不支持0.0.0.0，而使用127.0.0.1，外部网络是无法访问的。

但dify是部署在docker容器中，就不是本地网络，localhost无法使用，而直接<本地ip：端口>无法连接。
我的解决方案是防火墙添加入站规则和出站规则。
步骤： 

1. 打开“高级安全Windows Defender防火墙”。
2. 添加入站规则：
3. 依次选择端口，TCP，特定端口如:9997和命令中的相同，允许连接，域、专用、公用全选、名称自己命名，完成。
4. 出站同上。

然后启动服务

conda activate xinference
set XINFERENCE_HEALTH_CHECK_INTERVAL=30
set XINFERENCE_HEALTH_CHECK_ATTEMPTS=18
set XINFERENCE_DISABLE_HEALTH_CHECK=1
set XINFERENCE_DISABLE_METRICS=1
set XINFERENCE_HEALTH_CHECK_TIMEOUT=30
xinference-local --host 192.168.18.135 --port 9997

我在命令中启动模型失败，在网页中启动，也面临以下错误

RuntimeError: [address=ip地址:20245, pid=4372] Failed to download model 'ChatTTS' after multiple retries
同样配置一下出站入站规则，即可。
如果依旧有问题可以重启电脑试试，我也不确定，因为我每次添加规则后直接重启了一下。如果不需要重启，也可行的话麻烦留个评论，谢谢。
还有命令行启动模型，依旧不行，如果有人解决，也麻烦留下评论，感谢。

参考链接

xinference实战-windows环境下安装xinference_windows 安装 xinference-优快云博客