25、机器学习模型部署与自动化工作流

机器学习模型部署与自动化工作流

在机器学习领域，模型的部署和工作流的自动化是非常重要的环节。本文将介绍如何将模型部署到容器服务，以及如何使用 AWS 服务自动化机器学习工作流。

模型部署到容器服务

在之前的操作中，我们可以将数据质量违规情况发送到 CloudWatch 指标，并触发警报通知开发者潜在的数据质量问题。完成相关操作后，不要忘记删除监控计划和端点本身：

response = ll_monitor.delete_monitoring_schedule()
ll_predictor.delete_endpoint()

SageMaker Model Monitor 有助于捕获传入数据和预测结果，对模型测试很有用，还能使用内置容器或自定义容器进行数据质量分析。接下来，我们将学习如何将模型部署到容器服务，如 Amazon ECS、Amazon EKS 或 Amazon Fargate。

部署到容器服务的一般流程

以下是一个将模型部署到容器服务的高级流程：
1. 在 SageMaker 上训练模型。
2. 训练完成后，获取模型工件并提取模型。
3. 将模型推送到 Git 存储库。
4. 编写任务定义（适用于 ECS 和 Fargate）或 Pod 定义（适用于 EKS），可以使用内置容器或自定义容器，运行模型服务器或自定义代码从 Git 存储库克隆模型、加载并提供预测。
5. 使用该定义在集群上运行容器。

在 Amazon Fargate 上训练和部署模型