Windows下启动Xinference报错 RuntimeError: Cluster is not available after multiple attempts

最新推荐文章于 2025-03-26 09:41:32 发布

Androrion

最新推荐文章于 2025-03-26 09:41:32 发布

阅读量742

点赞数 10

文章标签： python

本文链接：https://blog.youkuaiyun.com/m0_63855134/article/details/145869042

版权

网上很多都说Windows 上不支持用 0.0.0.0 启动，应使用 IP。修改启动命令如下即可：

xinference-local --host 127.0.0.1 --port 9997

我试了还是报错，在git上查了一下，local启动前加这两句就可以了：

set XINFERENCE_HEALTH_CHECK_INTERVAL=10

set XINFERENCE_HEALTH_CHECK_ATTEMPTS=6

xinference-local

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

Androrion

关注关注

10
点赞
踩
6

收藏

觉得还不错? 一键收藏
2
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

HBase实战（5）：Spark SQL+Hive +HBASE 使用Spark 操作分布式集群HBASE

段智华的博客

06-14

3045

HBase实战（5）：Spark SQL+Hive +HBASE 使用Spark 操作分布式集群HBASE1，基于spark 2.3.0 直接进入spark sql 客户端，提示出错，找不到“com.mysql.jdbc.Driver”root@master:/usr/local/spark-2.3.0-bin-hadoop2.6/bin# spark-sql SLF4J: Class path ...

RabbitMQ是一种消息代理软件，它支持多种通信协议，并且可以与各种应用程序进行交互

BLOG域名:programb.blog.youkuaiyun.com

04-22

1273

RabbitMQ是一种消息代理软件，它支持多种通信协议，并且可以与各种应用程序进行交互。而Networking则是与RabbitMQ环境中的网络通信相关的多个主题的概述。在RabbitMQ中，客户端通过网络与RabbitMQ进行通信。RabbitMQ支持的所有协议都是基于TCP的。此外，RabbitMQ和操作系统都提供了许多可以调整的参数。其中一些与TCP和IP操作直接相关，另一些与应用程序级协议（如TLS）有关。

2 条评论您还未登录，请先登录后发表或查看评论

启动xinference报错RuntimeError: Cluster is not available after multiple attempts

wyh_111的专栏

09-24

2071

windows不支持0.0.0.需要使用127.0.0.1 ip的方式。

7月Langchain-Chatchat 0.3.1最新 win系统-安装教程，踩坑2小时，5分钟拿去！

fengxiaoyangfeng的博客

08-01

1330

Xinference安装、使用详细笔记

guoqingru0311的博客

03-24

2206

Xinference安装、使用详细笔记

RuntimeError: `set_session` is not available when using TensorFlow 2.0.

com_fang_bean的博客

03-30

8499

仔细研究就会发现是set_session的keras的错误而不是tensorflow问题，以前旧模型就是使用低版本的安装包，而现在高版本的安装包于低版本的不兼容，所以降低keras版本到1.7.0，问题解决。 ...

Flink的动态表转流（toAppendStream和toRetractStream）

长臂人猿的博客

02-20

6787

前言在FlinkSQL创建表后，将动态表转换为数据流的时候，我们可以选择两种方式：toAppendStream和toRetractStream。官网对此也有解释，编者在此给你找出来了：Flink官网动态表（表转流）说明部分，此处应有掌声。表转流的几种多态函数此处我们以toAppendStream为例：源码接口代码 <T> DataStream<T> toAppendStream(Table table, TypeInformation<T> typeInfo)

win10部署xinference遇到的问题

m0_45107976的博客

03-25

7982

通过该命令，可一键下载安装。先在macOS上一键部署，中途没有遇到任何障碍，奈何模型太大，mac的内存不够又配了一遍win10，然而在win10环境下，这条命令。

windows 10下安装xinference，以及RuntimeError: Cluster is not available after multiple attempts错误解决

今晚打老虎的专栏

12-20

2041

如果需要使用 Xinference 进行模型推理，可以根据不同的模型指定不同的引擎。xinference支持的推理引擎包括：Transformers 引擎、vLLM 引擎、Llama.cpp 引擎、SGLang 引擎、MLX 引擎等。建议根据当前使用的硬件手动安装依赖，从而获得最佳的加速效果。PyTorch(transformers) 引擎支持几乎有所的最新模型，这是 Pytorch 模型默认使用的引擎。出现这个报错的原因是启动命令使用的时linux的启动方式，如果正常导入，说明安装成功。

xinference.deploy.utils 20932 DEBUG Error while checking cluster: [WinError 1225] 远程计算机拒绝网络连接

最新发布

sky的博客

03-26

247

windows运行时提示错误，改成127.0.0.1也是，原因是检测的时间不够长，启动时间太长，导致中断。解决方式，增加环境变量。

windows下xinference无法加载本地大模型问题解决

wyh_111的专栏

10-30

2868

为 E:\\XinferenceFiles\\cache\\custom-glm4-chat-pytorch-9b E:\\glm_4_9b_chat 创建的三、命令方式启动模型。6 输入：icacls frpc_windows_amd64_v0.2 /grant Users:(RX)1 在E:\glm_4_9b_chat下创建一个custom-glm4-chat.json配置文件。3 打开inference的命令行，切换到大模型路径下E:\glm_4_9b_chat。

xinference 安装（http导致错误解决）

zmfsl110的专栏

02-07

1624

langchain-chatchat

windows SGLang安装

02-19

尽管如此，由于存在 `RuntimeError: Cluster is not available after multiple attempts` 错误提示的情况[^3]，建议仔细检查集群配置以及网络连接状态；另外也应确认所使用的软件版本是否完全适配当前的操作系统平台...

Windows 安装 Xinference

engchina的专栏

03-08

7647

Windows 安装 Xinference

安装Xinference手把手教学，以及各种报错解决。

Ultravioletrays的博客

12-30

7749

Python 3.12 中移除了distutils，导致一些包（如setuptools）无法正常安装或执行。安装或升级setuptools可以解决大部分问题。升级 pip 并安装或重新安装setuptools是解决该问题的主要方法。2.8 重新再安装Xinference解决所有问题！！t=O83A文章提供了在Anaconda虚拟环境中安装GPU版本PyTorch的详细步骤，包括创建环境、确认CUDA版本、从PyTorch官网获取正确的pip安装命令，以及验证安装成功的技巧。

Windows下安装配置Xinference指南

大白菜代码的博客

12-25

3891

Xinference 是一个强大且可扩展的本地推理服务器，具有以下特点：支持多种类型模型的部署和服务（LLM、嵌入、图像等）提供统一的 RESTful API 和 Python SDK 支持模型量化和优化可以在本地运行开源模型支持多种推理后端（PyTorch、ONNX等）

本地部署知识库——大模型框架xinference的本地架设

lxszyj的博客

06-27

5713

断断续续也研究了1个来月了，期间还遭遇了docker被ban的惨剧，导致我一个新手要开始学习这种繁琐的本地开发步骤，目前还未感受到这样做的优点，但是看很多技术大佬都是这样做的，相信有它的道理吧。这一系列陆续会涉及以下内容：1.大模型框架xinference的本地架设2.知识库管理软件fastgpt、dify、maxkb、langchain chatchat、ragflow的架设和使用3.各类大模型的尝试（主要是笔记本性能有限，只能不断尝试最适合自己的）

xinference实战-windows环境下安装xinference

AI agent

03-06

964

指导在windows环境下安装xinference