高级训练技术:管理式按需实例训练与自动模型调优
在机器学习模型训练过程中,成本和超参数优化是两个关键问题。本文将介绍管理式按需实例训练和自动模型调优这两种技术,帮助你在降低成本的同时提高模型性能。
管理式按需实例训练与目标检测
从按需训练切换到管理式按需实例训练非常简单,只需设置训练作业的最大持续时间,包括等待按需实例可用的时间。以下是一个示例代码:
od = sagemaker.estimator.Estimator(
container,
role,
instance_count=2,
instance_type='ml.p3.2xlarge',
use_spot_instances=True,
max_run=7200, # 2小时
max_wait=36000, # +8小时
output_path=s3_output_location)
训练完成后,训练日志会显示节省的成本。例如,本次训练节省了70%的费用,不仅比按需训练便宜,而且比原来的单实例作业成本还低一半。
使用Keras进行管理式按需实例训练和检查点保存
我们可以使用Keras构建一个简单的CNN来对Fashion-MNIST数据集进行分类。以下是具体步骤:
1. Keras脚本编写 :
- 使用脚本模式存储数据集路径和超参数。
- 加载数据集并将像素值归一化到[0,1]范围,对类标签进行独热编码。
- 构建Sequentia