28、AWS机器学习工作负载成本优化与最新服务特性

AWS机器学习工作负载成本优化与最新服务特性

1. 机器学习工作负载成本优化概述

在AWS上运行机器学习工作负载时，成本优化至关重要。以下是一些通用的成本优化原则：
- 资源自动伸缩与停用 ：根据使用量减少情况自动伸缩和停用资源，以降低成本。可参考 AWS自动伸缩服务 了解相关服务。
- 选择合适的服务类型 ：评估架构中使用的服务时，考虑使用无服务器服务、托管服务以减少运营开销，使用开源软件包降低许可成本。
- 选择合适的资源 ：选择合适类型、大小和数量的资源。在AWS上，可使用基于历史指标的性能 - 成本建模，或通过自动伸缩实现。
- 选择合适的定价模型 ：考虑按需实例与现货实例，了解节省计划和预留实例。
- 持续优化成本 ：随着需求变化和AWS推出新服务，持续优化成本约束。

1.1 机器学习工作负载的特定设计原则

除了通用原则，机器学习工作负载还有特定的设计原则：
- 使用托管服务 ：使用托管服务降低总拥有成本，例如使用Amazon SageMaker可专注于构建和维护机器学习模型，而非维护基础设施。
- 小数据集实验 ：在使用完整数据集训练和部署到端点之前，使用小数据集进行实验、少量训练周期并在本地部署，特别是在使用Ama