45、深度学习模型构建、应用与局限

深度学习模型构建、应用与局限

一、模型构建流程

（一）开发基础模型

首先要开发一个能超越简单常识基线的初始模型，以此证明机器学习在该问题上是可行的，但并非所有情况都能成功实现这一点。

（二）模型架构优化

逐步调整超参数并添加正则化来优化模型架构。仅依据验证数据的性能进行更改，而非测试数据或训练数据。要先让模型过拟合，以确定超出实际需求的模型容量水平，之后再开始添加正则化或缩小模型规模。同时，在调整超参数时要警惕验证集过拟合的问题，即超参数可能会过度适配验证集，而设置单独的测试集就是为了避免这种情况。

（三）模型部署与监控

将最终模型投入生产，例如作为 Web API、集成到 JavaScript 或 C++ 应用程序中，或者部署在嵌入式设备上。持续监控模型在实际数据上的性能，并根据监控结果优化下一轮的模型。

二、关键网络架构

（一）不同输入模态对应的网络架构

输入模态	适用网络架构
向量数据	密集连接模型（Dense 层）
图像数据	2D 卷积网络
序列数据	对于时间序列数据使用 RNN，对于离散序列（如单词序列）使用 Transformers；1D 卷积网络也可用于具