迁移 Xinference 服务：从 Docker 容器到新机器的完整指南

引言

在深度学习模型服务化部署中，Xinference 作为高效推理框架被广泛应用。当我们需要将运行中的 Xinference 服务迁移到新机器时，如何完整保留服务状态并快速恢复运行？本文将详细介绍通过 Docker 容器化技术实现 Xinference 服务迁移的全过程。

迁移场景分析

假设我们当前运行的 Xinference 容器如下：

docker ps | grep xin
51e8a502b6dd   xprobe/xinference:latest   "xinference-local -H…"   3 months ago   Up 3 months   0.0.0.0:9998->9997/tcp

关键信息：

• 容器 ID：51e8a502b6dd
• 端口映射：9998（宿主机）→ 9997（容器）
• 运行时间：3个月（需保留长期运行状态）

完整迁移步骤

步骤一：在源机器打包容器

1. 将运行中的容器提交为镜像

   docker commit 51e8a502b6dd my_xinference:latest
   

   此命令会保存容器的当前状态（包括文件系统变更和内存状态）

2. 验证新镜像

   docker images | grep my_xinference
   

3. 将镜像导出为压缩文件

   docker save -o xinference_image.tar my_xinference:latest
   

步骤二：传输镜像文件

1. 使用 SCP 安全传输

   scp xinference_image.tar user@new_server_ip:/opt/xinference/
   

2. 替代传输方案

   • 大型文件建议使用 rsync 支持断点续传：

     rsync -Pav xinference_image.tar user@new_ser