Google Cloud Platform机器学习实战：模型部署与预测全流程解析

Google Cloud Platform机器学习实战：模型部署与预测全流程解析

training-data-analyst Labs and demos for courses for GCP Training (http://cloud.google.com/training). 项目地址: https://gitcode.com/gh_mirrors/tr/training-data-analyst

前言

在机器学习项目的完整生命周期中，模型训练只是第一步，如何将训练好的模型部署到生产环境并提供预测服务才是真正体现价值的关键环节。本文将基于Google Cloud Platform的机器学习服务，详细介绍从模型部署到在线预测、批量预测的完整流程。

环境准备

在开始模型部署前，我们需要确保环境配置正确：

1. TensorFlow版本验证：确保使用TensorFlow 2.1版本，这是与后续部署兼容的版本

!pip freeze | grep tensorflow==2.1

2. 项目参数设置：配置存储桶(BUCKET)、项目名称(PROJECT)和区域(REGION)等基本信息

BUCKET = 'cloud-training-demos-ml'
PROJECT = 'cloud-training-demos'
REGION = 'us-central1'

3. 环境变量导出：将配置参数导出为环境变量，方便后续脚本使用

import os
os.environ['BUCKET'] = BUCKET
os.environ['PROJECT'] = PROJECT
os.environ['REGION'] = REGION
os.environ['TFVERSION'] = '2.1'

模型部署流程

1. 检查模型文件

在部署前，首先需要确认训练好的模型文件已经存储在Google Cloud Storage中。模型目录通常包含：

• 模型检查点(checkpoints)
• 导出的模型文件(位于export/exporter子目录)

可以通过以下命令查看模型文件：

gsutil ls gs://${BUCKET}/babyweight/trained_model/export/exporter/

2. 部署模型到AI Platform

使用gcloud命令将模型部署为REST API服务：

MODEL_NAME="babyweight"
MODEL_VERSION="ml_on_gcp"
MODEL_LOCATION=$(gsutil ls gs://${BUCKET}/babyweight/trained_model/export/exporter/ | tail -1)

# 创建模型
gcloud ai-platform models create ${MODEL_NAME} --regions $REGION

# 创建模型版本
gcloud ai-platform versions create ${MODEL_VERSION} \
  --model ${MODEL_NAME} \
  --origin ${MODEL_LOCATION} \
  --runtime-version $TFVERSION

部署过程可能需要几分钟时间。如果是更新已有模型，可能需要先删除旧版本。

在线预测实现

部署完成后，我们可以通过REST API调用模型进行实时预测。以下是完整的Python实现：

from oauth2client.client import GoogleCredentials
import requests
import json

MODEL_NAME = 'babyweight'
MODEL_VERSION = 'ml_on_gcp'

# 获取认证token
token = GoogleCredentials.get_application_default().get_access_token().access_token

# 构建API端点
api = 'https://ml.googleapis.com/v1/projects/{}/models/{}/versions/{}:predict' \
         .format(PROJECT, MODEL_NAME, MODEL_VERSION)

headers = {'Authorization': 'Bearer ' + token }

# 准备预测数据
data = {
  'instances': [
    {
      'key': 'b1',
      'is_male': 'True',
      'mother_age': 26.0,
      'plurality': 'Single(1)',
      'gestation_weeks': 39
    },
    # 可以添加更多预测实例
  ]
}

# 发送预测请求
response = requests.post(api, json=data, headers=headers)
print(response.content)

输入数据格式说明

模型要求输入数据为JSON格式，每个实例需要包含以下字段：

• key: 任意字符串标识符
• is_male: 性别(True/False/Unknown)
• mother_age: 母亲年龄(浮点数)
• plurality: 胎儿数量(Single(1)/Twins(2)/Triplets(3)/Multiple(2+))
• gestation_weeks: 妊娠周数(整数)

批量预测实现

对于大规模预测需求，可以使用AI Platform的批量预测功能：

1. 准备输入文件：创建JSON文件，每行一个预测实例

%%writefile inputs.json
{"key": "b1", "is_male": "True", "mother_age": 26.0, "plurality": "Single(1)", "gestation_weeks": 39}
{"key": "g1", "is_male": "False", "mother_age": 26.0, "plurality": "Single(1)", "gestation_weeks": 39}

2. 提交批量预测作业：

INPUT=gs://${BUCKET}/babyweight/batchpred/inputs.json
OUTPUT=gs://${BUCKET}/babyweight/batchpred/outputs

# 上传输入文件
gsutil cp inputs.json $INPUT

# 清理旧输出目录
gsutil -m rm -rf $OUTPUT 

# 提交批量预测作业
gcloud ai-platform jobs submit prediction babypred_$(date -u +%y%m%d_%H%M%S) \
  --data-format=TEXT \
  --region ${REGION} \
  --input-paths=$INPUT \
  --output-path=$OUTPUT \
  --model=babyweight \
  --version=ml_on_gcp

批量预测完成后，结果会存储在指定的输出目录中，每个输入文件对应一个输出文件。

最佳实践与注意事项

1. 模型版本管理：生产环境中建议使用有意义的版本命名，便于追踪和回滚

2. 输入验证：在实际应用中，应该对输入数据进行验证，确保符合模型要求

3. 错误处理：API调用时应添加适当的错误处理逻辑，应对网络问题或服务不可用情况

4. 性能考虑：

   • 在线预测适合低延迟需求
   • 批量预测适合大规模数据处理
   • 根据业务需求选择合适的预测方式

5. 安全考虑：

   • 妥善保管认证token
   • 限制API访问权限
   • 考虑添加速率限制

结语

通过本文，我们完整介绍了在Google Cloud Platform上部署机器学习模型并提供预测服务的全流程。从环境准备、模型部署到在线预测和批量预测的实现，涵盖了生产环境中模型服务化的关键环节。掌握这些技能，能够帮助数据科学家和机器学习工程师将模型从实验环境顺利过渡到生产环境，真正实现机器学习项目的商业价值。

training-data-analyst Labs and demos for courses for GCP Training (http://cloud.google.com/training). 项目地址: https://gitcode.com/gh_mirrors/tr/training-data-analyst