31、模型版本管理与负责任的AI实践

模型版本管理与负责任的AI实践

1. 模型版本管理的替代方案

在模型版本管理方面，除了推荐的模型版本控制设计模式外，还有一些其他的实现方案。

1.1 其他无服务器版本控制工具

可以使用无服务器服务来实现类似的模型版本控制效果。例如，每个模型版本本质上是一个无状态函数，有特定的输入输出格式，并部署在REST端点之后。可以使用像Cloud Run这样的服务，将每个版本构建并部署到单独的容器中，每个容器有唯一的URL，可通过API请求调用。这种方式在配置部署的模型环境时更具灵活性，还能添加服务器端预处理等功能。比如在航班预测示例中，可让客户端以字符串形式传递分类值，在容器中进行预处理。

而使用像AI Platform Prediction这样的托管机器学习服务，而非更通用的无服务器工具，是因为它专门为机器学习模型部署而构建，内置支持使用针对机器学习优化的GPU部署模型，还能处理依赖管理。例如在部署XGBoost模型时，无需担心安装正确的XGBoost版本或其他库依赖。

1.2 TensorFlow Serving

除了使用云AI平台或其他基于云的无服务器服务进行模型版本控制，还可以使用像TensorFlow Serving这样的开源工具。推荐使用最新的 tensorflow/serving Docker镜像通过Docker容器来实现TensorFlow Serving。借助Docker，可以使用包括GPU在内的任何硬件来提供模型服务。TensorFlow Serving API内置支持模型版本控制，其方法与之前讨论的解决方案类似。此外，还有Seldon和MLFlow等其他开源模型服务选项。