15、机器学习模型训练与持续集成：挑战与解决方案

机器学习模型训练与持续集成：挑战与解决方案

1. 模型训练面临的问题

模型训练结果可能出现过拟合或欠拟合的情况。像分布式拒绝服务（DDoS）攻击这类极端情况，可能会使模型陷入混乱。同样，正则化程度可能过高或过低。由于新数据的到来极不规则，管道架构需要具备响应能力，能检测到新输入的存在，并相应地触发新模型的生成。如果新数据在管道预定执行时间后不久出现，按预定间隔（如每六小时）重复执行一次性管道的方式，无法有效实现持续管道。因为可能需要超过一个间隔才能生成新模型，这在生产环境中可能是不可接受的。

2. 模型训练服务的需求定义

模型训练服务应具备自助服务功能。数据用户需指定以下与训练相关的详细信息：
- 模型类型
- 模型和超参数值
- 数据源引用
- 特征DSL表达式
- 持续训练的时间表（如适用）

该服务会生成一个经过训练的模型，并提供评估指标的详细信息，同时推荐模型参数和超参数的最优值。数据用户可以通过Web UI、API或笔记本指定训练细节并查看结果。对于高级用户，服务还可选择性地支持与计算资源需求相关的选项，如机器数量、内存大小、是否使用图形处理单元（GPU）等。

模型训练服务的需求可分为三类：训练编排、自动调优和持续训练。

2.1 训练编排

数据用户使用的机器学习库和工具没有万能的解决方案。训练环境和模型类型多种多样，模型训练环境可以在云端，也可以在数据科学家的本地机器上。这些环境可以由传统的CPU、GPU以及专门为深度学习设计的定制硬件（如TPU）组成。

除了硬件，还有各种专门针对不同编程语言和模型类型的编程框架。例