Xinferece报错：MainActorPool.append_sub_pool() got an unexpected keyword argument ‘start_method‘

问题

使用pip安装的xinference，web端启动模型时报错。

报错信息：

TypeError: [address=0.0.0.0:53207, pid=2866] MainActorPool.append_sub_pool() got an unexpected keyword argument ‘start_method’

采取的安装方式：
pip install “xinference[all]” -i https://pypi.tuna.tsinghua.edu.cn/simple

原因是 pip 默认安装的 xoscar v7.0+ 版本api与 xinference 不兼容，降级到xoscar v0.6.2 后可以正常启动。

解决方案

pip install xoscar==0.6.2

重新启动模型，报错消失。该问题据说会在后续版本中解决。

参考链接

https://github.com/xorbitsai/inference/issues/3438