30、复杂系统建模与不确定性设计优化

复杂系统建模与不确定性设计优化

1. 代理模型介绍

在优化复杂和高维系统的过程中，代理模型发挥着重要作用，下面介绍两种常见的代理模型。

1.1 Kriging 方法

Kriging 是一种流行的代理模型，常用于插值。它用于近似不规则数据，其近似函数由两部分组成：
- 全局趋势函数：通常是多项式，如常数、线性或二次多项式。
- 偏差函数：表示与趋势函数的偏离。

Kriging 代理模型的一般形式为：
[ \hat{y}(x) = G(x) + Z(x) ]
其中，(\hat{y}(x)) 是感兴趣的未知函数，(G(x)) 是已知的近似（通常为多项式）函数，(Z(x)) 是均值为零、协方差非零的随机过程的实现。(Z(x)) 协方差矩阵的第 (i,j) 个元素为：
[ COV [Z(x_i),Z(x_j)] = \sigma_z^2R_{ij} ]
其中，(R_{ij}) 是第 (i) 个和第 (j) 个数据点之间的相关函数，(\sigma_z^2) 是过程方差。

1.2 人工神经网络（ANN）

人工神经网络是一种较新且越来越受欢迎的代理模型选择。神经网络通常包含输入层、一个或多个隐藏层和输出层。

开发 ANN 需要定义以下三种类型的参数：
1. 不同神经元层之间的互连模式。
2. 更新互连权重的学习过程。
3. 将神经元的加权输入转换为其输出激活的激活函数。

然而，使用神经网络进行函数逼近存在一些缺点，例如需要用户指定大量参数，这要求用户在实现 ANN 方面有足够的经验。这些指定的参数包括