18、深度学习模型性能优化与部署指南

深度学习模型性能优化与部署指南

1. 模型性能优化实验

在模型训练过程中，为了提升模型性能，尤其是应对输入数据随时间变化的情况，我们可以进行一系列实验。

• 调整目标阈值参数 ：多年来，延误情况呈现出更频繁但持续时间更短的总体趋势。因此，探索 targetthresh 参数的较小值可能是有价值的。
• 调整学习率 ：学习率控制着每次训练迭代中权重的调整幅度。如果设置过高，训练过程可能会跳过损失最小点；如果设置过低，训练进度会变慢，并且会消耗更多的时间和系统资源。在模型训练的早期阶段，可以调整学习率并确定一个合适的值，以获得稳定的结果。进一步微调学习率可能会改善模型的性能。

此外，还可以进行以下实验来验证和提升模型性能：
- 去除不良值记录 ：默认情况下，我们会从数据集中丢弃具有不良值的记录。可以进行实验来验证这种选择，并证明在去除不良值的数据集上训练的模型比保留不良值的数据集上训练的模型具有更好的性能。
- 使用分类列嵌入 ：默认情况下，模型会为分类列合并嵌入。可以进行实验来确认并证明包含分类列嵌入的模型比不包含嵌入的模型具有更好的性能。
- 尝试 XGBoost ：XGBoost 是目前处理表格型结构化数据问题的默认机器学习方法。可以在模型训练笔记本的一个版本中进行一系列实验，将深度学习模型替换为 XGBoost。虽然 XGBoost 在有轨电车延误预测问题上的性能略优于深度学习，但性能并