20、基于 Kubernetes 的机器学习实践指南

基于 Kubernetes 的机器学习实践指南

1. 机器学习工作流阶段

机器学习工作流主要包含以下几个阶段：
| 阶段 | 描述 |
| — | — |
| 数据集准备 | 此阶段涉及用于训练模型的数据集的存储、索引、编目和元数据管理。对于本书而言，主要考虑存储方面。数据集大小差异很大，从数百兆字节到数百太字节甚至拍字节不等，必须为模型提供这些数据集才能进行训练。通常需要大规模的块存储和对象存储，并且可以通过 Kubernetes 原生存储抽象或直接访问的 API 来访问。 |
| 模型开发 | 数据科学家在此阶段编写、共享和协作开发机器学习算法。像 JupyterHub 这样的开源工具很容易在 Kubernetes 上安装，因为它们的运行方式与其他工作负载类似。 |
| 训练 | 为了让模型利用数据集学习如何执行其设计的任务，必须对其进行训练。训练过程的结果通常是训练模型状态的检查点。训练过程充分利用了 Kubernetes 的所有功能，包括调度、访问专用硬件、数据集卷管理、扩展和网络等，这些功能协同工作以完成训练任务。 |
| 服务 | 这是使训练好的模型能够响应客户端服务请求的过程，模型可以根据客户端提供的数据进行推理。例如，一个经过训练用于检测狗和猫的图像识别模型，当客户端提交一张狗的图片时，模型应该能够以一定的准确率判断它是否为狗。 |

graph LR
    A[数据集准备] --> B[模型开发]
    B --> C[训练]
    C --> D[服务]

2. Kubernetes 集群管理员的考