21、机器学习模型的导出、保存与分布式训练策略

机器学习模型的导出、保存与分布式训练策略

1. 使用签名导出模型

定义好签名后，可将新签名指定为服务默认签名：

model.save('export/flowers_model',
           signatures={
               'serving_default': predict_flower_type
           })

该 API 允许模型有多个签名，这在为签名添加版本控制或为不同客户端支持不同签名时很有用。

模型导出后，客户端进行预测的代码变得非常简单：

serving_fn = tf.keras.models.load_model('export/flowers_model'
                                       ).signatures['serving_default']
filenames = [
    'gs://.../9818247_e2eac18894.jpg',
    ...
    'gs://.../8713397358_0505cc0176_n.jpg'
]
pred = serving_fn(tf.convert_to_tensor(filenames))

结果是一个字典，可按如下方式使用：

print(pred['flower_type_str'].numpy().d