19、深度神经网络与切比雪夫张量的混合解决方案

深度神经网络与切比雪夫张量的混合解决方案

1. 深度神经网络与工具包

深度神经网络（DNNs）的主要优势之一是能够相对轻松地处理高维数据。因此，可以考虑直接在函数 P 上构建 DNN 而不使用参数化函数 g。但如果 g 存在，不使用它往往不是最优选择，还会限制 DNN 的应用。

1.1 不使用参数化函数 g 训练 DNN 的问题

若在没有函数 g 的情况下训练 DNN，需要对函数 P 的定义域进行采样（通常是随机采样），以获取训练集、验证集和测试集。在实际应用中，维度 n 往往较高，采样点数量可能会很多，这使得采样计算成本高昂，训练速度变慢。

1.2 使用参数化函数 g 改进 DNN 训练

在某些情况下，如特定方程所描述的情况，参数化函数 g 可用于提高 DNN 的训练时间和收敛性。有两种应用 DNN 的方式：
- 基于 P 并利用 g 的信息 ：在 P 上构建 DNN 时，利用 g 的有价值信息，特别是使用 g 来确定训练集、验证集和测试集的采样区域。
- 基于 f 构建 DNN ：若输入值在 ℝk 中容易获取，可以在 f 上构建 DNN，f 是 g 和 P 的复合函数。

1.3 基于 P 并利用 g 的图像构建 DNN

在实际应用中，对函数 P 的兴趣源于需要用 P 评估某些集合，如市场风险因素场景。当存在特定情况时，可通过参数化函数 g 将高维集合 X 描述为低维集合 Y。由于 g 通常是平滑的，其图像 ̃X 是低维对象，在 ℝn 中进行全面探索会浪费大量精力，因为 P 只需评估 X。因此